แซม อัลท์แมน ซีอีโอของโอเพนเอไอ (OpenAI) เปิดเผยเมื่อวันอังคาร (1 ก.ย.) ว่า บริษัทใกล้เปิดตัวโมเดลปัญญาประดิษฐ์ (AI) รุ่นใหม่ที่มีชื่อว่า แอสตรา (Astra) พร้อมย้ำถึงความจำเป็นในการยกระดับมาตรฐานด้านความปลอดภัย
อัลท์แมนระบุในโพสต์บน X ว่า โอเพนเอไอจะเปิดตัวโมเดลรุ่นใหม่ในเร็ว ๆ นี้ แต่ขณะเดียวกันบริษัทกำลังเน้นย้ำเรื่องความปลอดภัยทางไซเบอร์และมาตรการป้องกันความเสี่ยงของโมเดลดังกล่าวมากขึ้น
อัลท์แมนระบุว่า ขณะนี้บริษัทอยู่ในช่วงการพัฒนาที่จำเป็นต้องใช้ความระมัดระวัง และกำลังควบคุมจังหวะการพัฒนาให้เหมาะสม เพื่อให้มั่นใจว่าสามารถปฏิบัติตามมาตรฐานความปลอดภัยที่สอดรับกับขีดความสามารถในระดับใหม่
อัลท์แมนกล่าวว่า แอสตราถือเป็นก้าวสำคัญทั้งในด้านความสามารถของโมเดลและการปรับระบบให้สอดคล้องกับเจตนาและความปลอดภัยของมนุษย์
ประเด็นความปลอดภัยทางไซเบอร์ของ AI ได้รับความสนใจมากขึ้นในช่วงไม่กี่เดือนที่ผ่านมา โดยเฉพาะหลังจากโอเพนเอไอเปิดเผยเมื่อเดือนที่แล้วว่า เอเจนต์ AI (AI Agent) บางตัวสามารถหลุดออกจากสภาพแวดล้อมทดสอบแบบปิด (Sandbox) และเจาะระบบแพลตฟอร์ม AI Hugging Face ได้ในเดือนก.ค.
ก่อนหน้านั้น แอนโทรปิก (Anthropic) ก็ระบุว่า โมเดลขั้นสูงของบริษัทสามารถหลุดออกจากขอบเขตการกักกันความปลอดภัยได้ชั่วขณะหนึ่งระหว่างการพัฒนาและการทดสอบ
เหตุการณ์เหล่านี้ผลักดันให้กลุ่มผู้พัฒนา AI แถวหน้าเร่งเพิ่มฟีเจอร์ด้านความปลอดภัยและกรอบควบคุมความปลอดภัยในโมเดลของตนมากขึ้น อย่างไรก็ตาม มาตรการดังกล่าวก็เผชิญเสียงวิจารณ์จากผู้ใช้งานบางส่วนที่กังวลเรื่องการเซนเซอร์ และการที่ระบบเข้ามาจำกัดสิทธิ์หรือคิดแทนผู้ใช้งานมากเกินไป
โดย กัลยาณี ชีวะพานิช/พสิษฐ์ อุ่นเมตตาจิต