รัฐในสหรัฐฯ 8 แห่งยื่นฟ้องโอเพนเอไอ (OpenAI) ผู้พัฒนาแชตจีพีที (ChatGPT) โดยกล่าวหาว่า แชตบอต AI ของโอเพนเอไอเป็นผลิตภัณฑ์ที่ไม่ปลอดภัย โดยให้คำแนะนำที่เป็นอันตรายและสร้างความเข้าใจผิดให้กับผู้ปกครอง
เบรนนา เบิร์ด อัยการสูงสุดรัฐไอโอวาเปิดเผยว่า รัฐที่ยื่นฟ้องประกอบด้วย ไอโอวา แคนซัส เนแบรสกา เวสต์เวอร์จิเนีย อาร์คันซอ แอริโซนา ไอดาโฮ และมอนแทนา โดยแต่ละรัฐยื่นฟ้องแยกกันในศาลของตน
เบิร์ดกล่าวว่า แม้ OpenAI ยืนยันว่า ChatGPT มีความปลอดภัย แต่ระบบกลับให้คำแนะนำทางการแพทย์ที่เป็นอันตราย สนับสนุนให้ผู้ใช้ทำร้ายผู้อื่น และให้คำแนะนำเกี่ยวกับการฆ่าตัวตาย ทั้งยังทำให้ผู้ใช้รู้สึกว่าแชตบอตเป็นเสมือนเพื่อนที่ไว้วางใจได้
เบิร์ดระบุว่า การฟ้องร้องมีเป้าหมายเพื่อเรียกร้องความเป็นธรรมให้แก่ประชาชนที่ได้รับผลกระทบจากการกระทำของ OpenAI ซึ่งเธอมองว่าเป็นการกระทำโดยเจตนา ก่ออันตราย ประมาทเลินเล่อ และผิดกฎหมาย พร้อมย้ำว่าต้องการปกป้องเด็กและให้บริษัทรับผิดตามกฎหมายของรัฐ
ด้านดรูว์ ปูซาเตรี โฆษก OpenAI กล่าวว่า บริษัทได้พัฒนามาตรการคุ้มครองผู้ใช้ตามช่วงอายุ ซึ่งผลิตภัณฑ์ AI อีกหลายรายยังไม่มี พร้อมระบุว่าบริษัทกำลังทำงานร่วมกับรัฐบาลระดับรัฐเพื่อผลักดันนโยบายที่ครอบคลุมทั้งอุตสาหกรรม
ปูซาเตรีกล่าวว่า แม้ไม่มีระบบใดสมบูรณ์แบบ แต่บริษัทจะยังคงทำงานร่วมกับผู้เชี่ยวชาญเพื่อพัฒนามาตรการป้องกันเพิ่มเติม ซึ่งรวมถึงเครื่องมือควบคุมการใช้งานสำหรับผู้ปกครอง การแจ้งเตือนให้พักจากการใช้งาน และมาตรการคุ้มครองที่เหมาะสมกับอายุของผู้ใช้
รายงานระบุว่า OpenAI กำลังเผชิญการตรวจสอบอย่างมากเกี่ยวกับแนวทางด้านความปลอดภัยและการรักษาความมั่นคงปลอดภัย โดยเฉพาะมาตรการคุ้มครองเด็ก นอกจากนี้ บริษัทยังเผชิญคดีเรียกค่าเสียหายจากการเสียชีวิตโดยมิชอบหลายคดี ซึ่งกล่าวหาว่า ChatGPT ทำให้ผู้ใช้เกิดความหลงผิดที่เป็นอันตราย และในบางกรณีนำไปสู่การฆ่าตัวตาย
ก่อนหน้านี้ เจมส์ อุทไมเออร์ อัยการสูงสุดรัฐฟลอริดาได้ยื่นฟ้อง OpenAI เมื่อเดือนมิ.ย. โดยกล่าวหาว่าบริษัทจงใจเปิดตัวผลิตภัณฑ์ที่ไม่ปลอดภัยและอาจเป็นอันตรายต่อผู้ใช้
อย่างไรก็ดี OpenAI ได้เพิ่มมาตรการดูแลเด็กและวัยรุ่น โดยในเดือนส.ค. บริษัทเปิดตัว ChatGPT for Teens ซึ่งออกแบบมาสำหรับวัยรุ่นโดยเฉพาะ พร้อมฟังก์ชันด้านการเรียนรู้และมาตรการป้องกันการเข้าถึงเนื้อหาที่ไม่เหมาะสมกับวัย เพื่อลดโอกาสที่ผู้ใช้จะพบเนื้อหาที่ไม่เหมาะสมกับพัฒนาการหรืออาจเป็นอันตราย
OpenAI ระบุในขณะเปิดตัวว่า วัยรุ่นควรใช้ AI เพื่อเรียนรู้ สร้างสรรค์ และสำรวจสิ่งใหม่ ๆ ได้ แต่การเข้าถึงเทคโนโลยีดังกล่าวควรมาพร้อมมาตรการคุ้มครองที่เหมาะสมกับพัฒนาการของวัยรุ่น ส่งเสริมความสัมพันธ์ในชีวิตจริง และสนับสนุนการใช้งานอย่างเหมาะสมในระยะยาว
โดย วรวิชญ์ สิทธิวัง/กัลยาณี ชีวะพานิช