โอเพนเอไอ (OpenAI) ผู้พัฒนา ChatGPT แจ้งองค์กรต่าง ๆ มากกว่า 100 แห่งเกี่ยวกับเหตุการณ์ที่เกี่ยวข้องกับกิจกรรมของ AI Agent ซึ่งไม่ได้รับอนุญาต ขณะที่ห้องปฏิบัติการด้านปัญญาประดิษฐ์ (AI) กำลังเผชิญการตรวจสอบอย่างเข้มงวดมากขึ้นเกี่ยวกับความเสี่ยงจาก AI Agent ที่ทำงานนอกเหนือการควบคุม
โอเพนเอไอเปิดเผยว่า บริษัทกำลังตรวจสอบข้อมูลราว 50 เพตะไบต์ (petabytes) เพื่อประเมินขอบเขตทั้งหมดของกิจกรรมดังกล่าว หลังเกิดเหตุการณ์ที่ AI แฮ็กระบบของฮักกิง เฟซ (Hugging Face) โดยไม่ได้ตั้งใจ
โอเพนเอไอซึ่งนำโดยแซม อัลท์แมน ได้ดำเนินการตรวจสอบกิจกรรมของโมเดล AI ในวงกว้าง โดยเหตุการณ์ที่เกี่ยวข้องกับฮักกิง เฟซ ถือเป็นกรณีรุนแรงที่สุดของกิจกรรมจาก AI Agent ที่อยู่นอกเหนือการควบคุม ซึ่งโอเพนเอไอตรวจพบจากโมเดล AI ของบริษัทจนถึงขณะนี้
ในช่วงหลายเดือนที่ผ่านมา เกิดเหตุการณ์เจาะระบบที่เกี่ยวข้องกับ AI Agent ซึ่งอยู่นอกเหนือการควบคุมหลายครั้งทั่วโลก ส่งผลให้เกิดความกังวลอย่างกว้างขวางในอุตสาหกรรม AI เกี่ยวกับความสามารถในการควบคุมโมเดล AI ที่มีประสิทธิภาพมากขึ้นซึ่งกำลังอยู่ระหว่างการพัฒนา
โอเพนเอไอระบุว่า ในบางกรณี โมเดล AI เข้าถึงอินเทอร์เน็ตในลักษณะที่ไม่ได้ตั้งใจ หรือไม่ได้รับการกำหนดข้อจำกัดที่เหมาะสม โดยในช่วงหลายเดือนที่ผ่านมา บริษัทได้ใช้มาตรการด้านเทคนิคและการดำเนินงานรูปแบบใหม่ เพื่อป้องกันไม่ให้เกิดปัญหาในลักษณะเดียวกัน หรือช่วยให้สามารถตรวจพบปัญหาได้ตั้งแต่ระยะเริ่มต้น พร้อมระบุว่าจะเดินหน้าพัฒนามาตรการดังกล่าวต่อไป
ก่อนหน้านี้ โอเพนเอไอระบุว่าการตรวจสอบอาจใช้เวลาหลายเดือนจึงจะเสร็จสิ้น เนื่องจากมีขอบเขตการดำเนินงานในวงกว้าง
โดย กัลยาณี ชีวะพานิช/รัตนา พงศ์ทวิช