โมเดลปัญญาประดิษฐ์ของ OpenAI ได้เข้าถึงข้อมูลที่เปิดเผยต่อสาธารณะบนเว็บไซต์ของรัฐบาลสหรัฐฯ รวมถึงเว็บไซต์ของสำนักงานสำรวจสำมะโนประชากรสหรัฐฯ และสำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์สหรัฐฯ (SEC) ระหว่างการฝึกและประเมินเทคโนโลยี
รายงานข่าวระบุว่า เอเจนต์ AI ของ OpenAI มีการโต้ตอบกับเว็บไซต์ SEC.gov และ Investor.gov รวมถึงเข้าถึงข้อมูลสาธารณะจาก Census.gov โดย OpenAI ยืนยันว่าโมเดลของบริษัทเข้าถึงข้อมูลที่เปิดเผยต่อสาธารณะจากเว็บไซต์เหล่านี้จริง
OpenAI เปิดเผยเมื่อวันศุกร์ (25 ก.ย.) ว่า บริษัทได้แจ้งหน่วยงานและองค์กรหลายสิบแห่ง รวมถึงรัฐบาลและมหาวิทยาลัย หลังพบว่าเว็บไซต์ขององค์กรเหล่านี้อาจได้รับผลกระทบจากการเข้าถึงของโมเดล AI ระหว่างการประเมินเทคโนโลยี
บริษัทระบุว่า กำลังดำเนินการตรวจสอบเชิงลึกเกี่ยวกับเหตุการณ์ที่เกิดจากโมเดล AI ซึ่งมีพฤติกรรมไม่สอดคล้องกับเป้าหมายที่กำหนดไว้ หรือ misalignment ระหว่างการฝึกและการทดสอบ โดยคาดว่าการตรวจสอบจะใช้เวลาหลายเดือน
ความพยายามดังกล่าวสะท้อนหนึ่งในข้อกังวลสำคัญของผู้เชี่ยวชาญด้านความปลอดภัยไซเบอร์ นั่นคือ ระบบ AI สามารถดำเนินการบางอย่างได้โดยที่บริษัทผู้พัฒนาอาจไม่สามารถรับรู้ได้แบบเรียลไทม์เป็นส่วนใหญ่
OpenAI ระบุในบล็อกโพสต์ว่า บริษัทได้แจ้งองค์กรหลายแห่งเกี่ยวกับกรณีที่โมเดล AI อาจเข้าถึงเว็บไซต์ในลักษณะที่เกินกว่าที่ควรจะเป็น เช่น การผ่านระบบรักษาความปลอดภัยของเว็บไซต์ การส่งคำขอจำนวนมากจนกระทบต่อการให้บริการ หรือกรณีที่ AI ทำงานไม่ตรงตามเป้าหมายที่ผู้พัฒนากำหนดจนส่งผลกระทบต่อเว็บไซต์หรือบริการภายนอก
บริษัทพบเหตุการณ์เหล่านี้ระหว่างขยายการตรวจสอบที่เริ่มต้นขึ้น หลังจาก AI ของ OpenAI เจาะระบบ Hugging Face โดยไม่ได้ตั้งใจเมื่อหลายเดือนก่อน โดยเว็บไซต์ที่ได้รับผลกระทบมีทั้งเว็บไซต์ของรัฐบาล มหาวิทยาลัย หน่วยงานภาครัฐ และองค์กรอื่น ๆ
ลิซ บูร์ฌัวส์ โฆษกของ OpenAI กล่าวว่า บริษัทกำลังตรวจสอบกิจกรรมของโมเดลที่มีพฤติกรรมไม่สอดคล้องกับเป้าหมายอย่างละเอียด และจะแจ้งองค์กรต่าง ๆ เมื่อพบว่าอาจเกิดผลกระทบต่อระบบขององค์กรเหล่านั้น พร้อมคาดว่าจะมีการแจ้งเตือนเพิ่มเติมระหว่างที่การตรวจสอบยังดำเนินต่อไป
บูร์ฌัวส์ระบุว่า กิจกรรมส่วนใหญ่ที่ตรวจสอบจนถึงขณะนี้เป็นงานวิจัยทั่วไป เช่น การเข้าถึงเนื้อหาสาธารณะบนเว็บไซต์เพื่อใช้ตอบคำถาม
ก่อนหน้านี้เพียงไม่กี่วัน OpenAI ยอมรับว่า โมเดล AI ของบริษัทเจาะระบบเว็บไซต์ของรัฐบาลออสเตรเลียเมื่อต้นปีนี้ ซึ่งถือเป็นหนึ่งในกรณีแรก ๆ ที่มีการเปิดเผยว่า AI โจมตีทางไซเบอร์ต่อฐานข้อมูลของรัฐบาล โดยบริษัทระบุว่าเหตุการณ์ดังกล่าวเกิดขึ้นระหว่างการประเมินโมเดล AI
แอนโทนี อัลบาเนซี นายกรัฐมนตรีออสเตรเลีย กล่าวว่าในสัปดาห์นี้ เทคโนโลยีของ OpenAI สามารถเข้าถึงเว็บไซต์ของรัฐบาลโดยไม่ได้รับอนุญาต ซึ่งเป็นเว็บไซต์ที่ใช้รายงานสถิติด้านสาธารณสุข โดยการเจาะระบบเกิดขึ้นเมื่อวันที่ 18 มิ.ย. แต่ยังไม่พบว่าข้อมูลส่วนบุคคลของชาวออสเตรเลียได้รับผลกระทบ
OpenAI ระบุในโพสต์บนแพลตฟอร์ม X เมื่อวันศุกร์ว่า การดำเนินการส่วนใหญ่ที่บริษัทตรวจสอบเกี่ยวข้องกับการที่โมเดล AI ทำงานวิจัยทั่วไป เช่น การค้นหาคำตอบจากเว็บไซต์ต่าง ๆ และคาดว่าการตรวจสอบจะใช้เวลาหลายเดือนจึงจะเสร็จสิ้น
แซม อัลท์แมน ซีอีโอของ OpenAI ระบุในโพสต์บน X เมื่อวันศุกร์ว่า บริษัทไม่ได้ดำเนินการตรวจสอบได้รวดเร็วเท่าที่ต้องการ แต่กำลังพยายามสร้างสมดุลระหว่างความโปร่งใสกับความจำเป็นในการค้นหาข้อมูลจำนวนมหาศาลจากบันทึกกิจกรรม และการประสานงานกับบริษัทที่ได้รับผลกระทบ
อัลท์แมนระบุว่า บริษัทกำลังจัดลำดับความสำคัญของเหตุการณ์ตามระดับความรุนแรงให้ดีที่สุดเท่าที่ทำได้ และกำลังเพิ่มทรัพยากรเพื่อรับมือกับเรื่องดังกล่าว
การเจาะระบบโดยโมเดลของ OpenAI, Anthropic PBC, DeepMind ของ Google และ Meta Platforms ส่งผลให้เกิดความกังวลด้านความปลอดภัยไซเบอร์ในวงกว้างสำหรับบริษัทขนาดใหญ่
โดยทั่วไป ผู้ให้บริการด้านความปลอดภัยไซเบอร์จะนำเสนอผลิตภัณฑ์ที่ติดตามมัลแวร์ที่รู้จัก หรือทำหน้าที่ตรวจจับและสกัดพฤติกรรมที่ผิดปกติ
ซอฟต์แวร์รักษาความปลอดภัยแบบดั้งเดิม เช่น ไฟร์วอลล์ ระบบกรองอีเมล และเครื่องมือรับมือเหตุการณ์ด้านความปลอดภัยไซเบอร์ จะเน้นตรวจจับภัยคุกคามเหล่านี้ ก่อนแจ้งเตือนเจ้าหน้าที่ให้แยกบัญชีหรืออุปกรณ์ที่ถูกเจาะระบบออกจากเครือข่าย
อย่างไรก็ตาม โมเดล AI มีความสามารถก้าวหน้ากว่ามาก โดยบางครั้งสามารถค้นพบช่องโหว่ของซอฟต์แวร์ที่ไม่เคยมีใครพบมาก่อน และใช้ช่องโหว่หลายจุดพร้อมกันเพื่อเจาะระบบองค์กรเป้าหมาย ทำให้การรับมือกับการโจมตีลักษณะนี้ทำได้ยากขึ้น และอาจเปิดทางให้ผู้โจมตีที่มีเจตนาร้ายเข้าถึงระบบที่ถูกเจาะได้อย่างลึกซึ้ง โดยไม่ถูกเจ้าหน้าที่ด้านความปลอดภัยไซเบอร์ตรวจพบ
โดย กัลยาณี ชีวะพานิช