เจคอบ ค็อกซัน นักวิจัยชาวอังกฤษ ประกาศลาออกจากบริษัท แอนโทรปิก (Anthropic) ผู้พัฒนาปัญญาประดิษฐ์ (AI) ชั้นนำของสหรัฐฯ เพราะกังวลว่า การแข่งขันสร้าง ปัญญาประดิษฐ์ระดับเหนือมนุษย์ที่พัฒนาตนเองได้ อาจทำให้มนุษยชาติต้องสูญพันธุ์
สำนักข่าวเกียวโดรายงานว่า ค็อกซัน ซึ่งเคยทำวิจัยด้านการพรีเทรนโมเดล (Pre-training) ให้กับทั้งบริษัท โอเพนเอไอ (OpenAI) และแอนโทรปิก โพสต์ผ่านแพลตฟอร์มเอ็กซ์ (X) เมื่อวันอังคารที่ผ่านมา (8 ก.ย.) ระบุว่า ทั้งโอเพนเอไอและแอนโทรปิก ต่างไม่มีความรับผิดชอบ พร้อมเปิดเผยว่า บรรดาผู้พัฒนา AI ในปัจจุบัน เชื่ออย่างจริงจังว่า เทคโนโลยีนี้อาจสังหารมนุษย์ทุกคนได้ภายในสิ้นทศวรรษนี้ (ภายในพ.ศ. 2573)
ขณะเดียวกัน อีแวน ฮิวบิงเจอร์ หัวหน้าฝ่ายวิทยาศาสตร์ด้าน Alignment (การปรับพฤติกรรม AI ให้ปลอดภัยและสอดคล้องกับมนุษย์) ของแอนโทรปิก โพสต์ยืนยันความเห็นของค็อกซันว่า พวกเราเชื่อจริงจังว่า AI ฆ่ามนุษย์ทุกคนได้! และส่วนตัวผมประเมินว่า มีโอกาส >10% ที่จะเกิดเรื่องนี้ขึ้นภายในช่วงทศวรรษหน้า (ภายในพ.ศ. 2579)
กระแสความวิตกกังวลเกี่ยวกับระบบ AI ที่หลุดจากการควบคุมทวีความรุนแรงขึ้น หลังเกิดเหตุการณ์ด้านความปลอดภัยที่แพลตฟอร์ม ฮักกิงเฟซ (Hugging Face) เมื่อเดือนก.ค. ที่ผ่านมา เมื่อเอเจนต์ AI ของโอเพนเอไอหลายร้อยตัวประสานงานกันเอง เพื่อเจาะออกจากสภาพแวดล้อมทดสอบแบบปิด แล้วเข้าไปแฮกระบบคอมพิวเตอร์ของแพลตฟอร์มฮักกิงเฟซในสหรัฐฯ
อย่าประเมินพลังของเทคโนโลยีนี้ต่ำไป ในไม่ช้า ระบบเหล่านี้จะก้าวสู่ระดับเหนือมนุษย์ที่สามารถเจาะระบบคอมพิวเตอร์ได้ทุกแห่ง พลิกโฉมทุกวงการได้ชั่วข้ามคืน และเข้าครอบครองอำนาจตลอดจนทรัพยากรในโลกจริงได้ ค็อกซันเตือน
ค็อกซันระบุเพิ่มเติมว่า แม้บริษัทเทคโนโลยีในสหรัฐฯ อาจร่วมมือกันชะลออัตราเร่งของการพัฒนา AI ได้ แต่การสกัดไม่ให้เกิดการแข่งขันระดับโลก อาจจำเป็นต้องใช้มาตรการที่แลกด้วยต้นทุนมหาศาล เช่น การสั่งห้ามยกระดับขีดความสามารถของโมเดลเป็นการชั่วคราว
นอกจากนี้ ฮิวบิงเจอร์ยอมรับว่า แม้แอนโทรปิกจะพยายามอย่างเต็มที่เพื่อแก้ปัญหาด้าน Alignment สำหรับซูเปอร์อินเทลลิเจนซ์ แต่ปัจจุบันบริษัทยังไม่มีแผนรับมือที่ชัดเจน และยังมองไม่เห็นทางว่าจะแก้ปัญหานี้ได้สำเร็จ
โดย พสิษฐ์ อุ่นเมตตาจิต/กนิษฐ์นุช สิริสุทธิ์