แอนโทรปิก (Anthropic) บริษัทพัฒนาปัญญาประดิษฐ์ (AI) ชั้นนำของสหรัฐฯ เปิดเผยผลการทดลองเมื่อวันจันทร์ (12 ต.ค.) ซึ่งชี้ว่า โมเดล AI ขนาดเล็กอาจมีความสามารถเพียงพอที่จะคัดลอกและแพร่พันธุ์ตัวเองลงบนอุปกรณ์อินเทอร์เน็ตของสรรพสิ่ง (IoT) เชิงพาณิชย์ เช่น เตาอบอัจฉริยะ และกล่องแอนดรอยด์ทีวี (Android TV) แบรนด์โนเนม ได้ภายในเวลาอีกไม่กี่เดือนข้างหน้านี้
การทดลองดังกล่าวของแอนโทรปิกมุ่งศึกษาว่า โมเดล AI จะสามารถตรวจจับอุปกรณ์ที่มีช่องโหว่ ทำการคัดลอกชุดคำสั่งของตัวเองลงไป และแพร่กระจายตัวต่อไปได้เองโดยไม่ต้องอาศัยมนุษย์คอยสั่งการหรือไม่
ผลการศึกษาพบว่า โมเดลขนาดเล็กที่มีพารามิเตอร์ต่ำกว่า 3 หมื่นล้านพารามิเตอร์ (30B) สามารถผ่านขั้นตอนย่อยต่าง ๆ ที่จำเป็นต่อการแพร่พันธุ์ตัวเองได้สำเร็จหลายขั้นตอน แต่ยังคงประสบปัญหาในการประมวลผลกระบวนการทั้งหมดให้ลุล่วงรวดเดียวตั้งแต่ต้นจนจบ
อย่างไรก็ตาม ในการทดสอบแบบผ่อนปรนที่มีการตัดขั้นตอนความปลอดภัยบางส่วนออกไป แอนโทรปิกพบว่า โมเดล GLM-5.2 รวมถึงโมเดลที่มีประสิทธิภาพสูงกว่า สามารถดำเนินการคัดลอกและแพร่กระจายตัวเองได้สำเร็จครบวงจรตั้งแต่ต้นจนจบ
แอนโทรปิกเตือนว่า โมเดล AI ที่สามารถแพร่พันธุ์ตัวเองได้เช่นนี้จะยากต่อการกำจัดหรือปิดระบบ เนื่องจากไม่มีสวิตช์ตัดการทำงานจากศูนย์กลาง อีกทั้งยังแตกต่างจากมัลแวร์ทั่วไปตรงที่ AI สามารถเรียนรู้และปรับตัวเข้ากับอุปกรณ์ระบบปฏิบัติการที่ไม่คุ้นเคยได้ด้วยตนเอง ซึ่งไม่จำกัดเป้าหมายอยู่แค่ชิปประมวลผลในศูนย์ข้อมูล (Data Center) เท่านั้น
การศึกษานี้มุ่งเน้นไปที่อุปกรณ์ IoT เช่น กล่องแอนดรอยด์ทีวี เครื่องใช้ไฟฟ้าอัจฉริยะ และอุปกรณ์เชื่อมต่ออินเทอร์เน็ตต่าง ๆ เนื่องจากเป็นอุปกรณ์ที่มักมีระบบรักษาความปลอดภัยต่ำและถูกโจมตีได้ง่าย
นอกจากนี้ แอนโทรปิกยังส่งสัญญาณเตือนว่า หากโมเดล AI ขนาดเล็กยังคงพัฒนาขีดความสามารถในอัตราความเร็วเท่าที่ผ่านมา โมเดลเหล่านี้จะสามารถแพร่พันธุ์ตัวเองได้โดยอัตโนมัติภายในสิ้นปีนี้ และจะตามมาด้วยตัวแพร่พันธุ์ AI ที่พกพาชุดค่าน้ำหนักโมเดลไปรันโดยตรงในไม่ช้า
ทั้งนี้ แอนโทรปิกระบุเสริมว่า ระบบ AI อิสระเหล่านี้อาจแพร่พันธุ์ไปอย่างช้า ๆ และอาศัยการยึดทรัพยากรประมวลผลที่เข้าถึงง่ายแต่ขาดการป้องกันแน่นหนา พร้อมเรียกร้องให้ทุกฝ่ายเร่งเสริมความแข็งแกร่งของระบบความปลอดภัย เพื่อสกัดกั้นไม่ให้ AI ดังกล่าวสามารถขยายเครือข่ายและแพร่ระบาดได้ในอนาคต
โดย พสิษฐ์ อุ่นเมตตาจิต