เอ็กซ์เอไอ (xAI) บริษัทด้านปัญญาประดิษฐ์ของอีลอน มัสก์ ประกาศจำกัดสิทธิ์การใช้งานเครื่องมือสร้างรูปภาพของ Grok บนแพลตฟอร์มโซเชียลมีเดีย X ให้ใช้ได้เฉพาะสมาชิกที่ชำระค่าบริการเท่านั้น หลังจากที่ Grok ตกเป็นเป้าวิจารณ์อย่างหนัก กรณีถูกนำไปใช้สร้างภาพที่ไม่เหมาะสมของเด็กและผู้หญิง
โดยวันนี้ (9 ม.ค.) Grok ได้แจ้งเตือนผู้ใช้งาน X ว่า ฟีเจอร์การสร้างและแก้ไขรูปภาพจะเปิดให้ใช้งานได้เฉพาะสมาชิกที่จ่ายเงินเท่านั้น จากเดิมที่เคยเปิดให้ผู้ใช้ทั่วไปใช้งานได้ฟรีแบบจำกัดจำนวนครั้งต่อวัน อย่างไรก็ตาม สำหรับผู้ที่ใช้งานผ่านแอป Grok โดยตรงที่ไม่ผ่านแพลตฟอร์ม X ยังคงสามารถสร้างรูปภาพได้ฟรีตามปกติโดยไม่ต้องสมัครสมาชิก
ฟีเจอร์สร้างภาพของ Grok กลายเป็นประเด็นฉาวในช่วงไม่กี่สัปดาห์ที่ผ่านมา หลังพบว่ามีผู้ใช้งานป้อนคำสั่งให้ AI ตัดต่อภาพบุคคล ซึ่งส่วนใหญ่เป็นผู้หญิง ให้กลายเป็นภาพใส่ชุดบิกินี นอกจากนี้ยังมีผู้ใช้อีกจำนวนมากฉวยโอกาสใช้ฟีเจอร์นี้สร้างภาพในเชิงลามกอนาจารของเด็กและผู้หญิงบน X โดยมีรายงานว่ามีการสร้างภาพในลักษณะดังกล่าวสูงถึงหลายพันรูปต่อชั่วโมง และส่วนใหญ่เป็นการกระทำโดยที่เจ้าของภาพตัวจริงไม่ให้ความยินยอม
ทางด้าน Internet Watch Foundation (IWF) ซึ่งเป็นหน่วยงานที่ได้รับมอบหมายจากรัฐบาลสหราชอาณาจักรให้ตรวจสอบเนื้อหาการล่วงละเมิดทางเพศเด็ก เปิดเผยว่า ตรวจพบภาพที่เข้าข่าย "อาชญากรรม" บนดาร์กเว็บที่เชื่อว่าสร้างขึ้นโดย Grok ขณะที่นายกรัฐมนตรี เคียร์ สตาร์เมอร์ ประณามภาพเหล่านี้ว่า "น่ารังเกียจ" พร้อมยืนยันว่ารัฐบาลสนับสนุนให้ Ofcom หน่วยงานกำกับดูแลสื่อของประเทศ ดำเนินมาตรการขั้นเด็ดขาด
ขณะเดียวกัน สหภาพยุโรป (EU) ได้สั่งการให้ X เก็บรักษาเอกสารภายในทั้งหมดที่เกี่ยวข้องกับ Grok เพื่อรอการตรวจสอบจนถึงสิ้นปีนี้ พร้อมประณามการแพร่กระจายภาพอนาจารของเด็กบนแพลตฟอร์มว่าเป็นสิ่งที่ผิดกฎหมาย
ก่อนหน้านี้เมื่อสัปดาห์ที่แล้ว อีลอน มัสก์ เคยโพสต์คำเตือนผ่าน X ว่า "ใครก็ตามที่ใช้ Grok สร้างเนื้อหาผิดกฎหมาย จะต้องได้รับโทษในระดับเดียวกับการอัปโหลดเนื้อหาผิดกฎหมายด้วยตนเอง" เนื่องจากปัจจุบัน X มีข้อกำหนดสั่งห้ามการเผยแพร่เนื้อหาที่เป็นการแสวงหาประโยชน์ทางเพศจากเด็กอยู่แล้ว