ในอดีต เวลาพูดถึง "ข้อมูลส่วนบุคคลของเด็ก" หลายคนอาจนึกถึงชื่อ นามสกุล รูปถ่าย เลขประจำตัวประชาชน หรือชื่อโรงเรียน แต่ในยุค AI ข้อมูลของเด็กไม่ได้หยุดอยู่เพียงเท่านั้นอีกต่อไป
เด็กหนึ่งคนอาจทิ้งร่องรอยข้อมูลไว้ตั้งแต่การเรียนออนไลน์ การใช้แอปฝึกภาษา การพูดคุยกับแชทบอท การเล่นเกม การดูวิดีโอ การหยุดดูเนื้อหาบางประเภท หรือคำตอบที่เด็กให้กับระบบปัญญาประดิษฐ์ สิ่งเหล่านี้อาจดูเป็นเรื่องเล็กน้อยในสายตาผู้ใหญ่ แต่สำหรับ AI แล้ว ข้อมูลเล็ก ๆ เหล่านี้คือวัตถุดิบชั้นดีในการวิเคราะห์ คาดการณ์ และในบางกรณีอาจโน้มนำพฤติกรรมของเด็กได้
คำถามจึงไม่ใช่เพียงว่า เราควรให้เด็กใช้ AI หรือไม่ แต่คือ "หาก AI กำลังเรียนรู้จากเด็ก ใครควรมีหน้าที่ดูแลไม่ให้เด็กกลายเป็นเพียง "ชุดข้อมูล" ของระบบ"
เมื่อ AI ถูกใช้ในห้องเรียน ระบบอาจเก็บข้อมูลเกี่ยวกับผลการเรียน ความเร็วในการตอบคำถาม จุดอ่อนของผู้เรียน ความสนใจส่วนตัว พฤติกรรมการเรียนรู้ หรือแม้แต่สัญญาณบางอย่างที่เกี่ยวข้องกับสุขภาพจิต หากเป็นแอปพลิเคชันสำหรับเด็ก ระบบอาจเก็บเสียง ใบหน้า ตำแหน่งที่อยู่ อุปกรณ์ที่ใช้ ความถี่ในการใช้งาน หรือรูปแบบการตอบสนองต่อเนื้อหาบางประเภท
ข้อมูลเหล่านี้บางส่วนเป็นข้อมูลส่วนบุคคลทั่วไป บางส่วนอาจเป็นข้อมูลอ่อนไหว และบางส่วนอาจไม่ได้ดูอ่อนไหวตั้งแต่แรก แต่เมื่อนำมารวมกับข้อมูลอื่นแล้ว อาจใช้อนุมานเรื่องสำคัญเกี่ยวกับเด็กได้ เช่น ความสามารถทางการเรียน สภาพอารมณ์ แนวโน้มพฤติกรรม หรือความเปราะบางเฉพาะบุคคล
ระบบดิจิทัลทั่วไปมักเก็บข้อมูลเพื่อให้บริการ แต่ระบบ AI อาจใช้ข้อมูลเพื่อคาดการณ์ ตัดสินใจ แนะนำ จัดอันดับ หรือปรับสภาพแวดล้อมที่เด็กจะพบเห็นในอนาคต เช่น เด็กคนหนึ่งควรได้รับแบบฝึกหัดแบบใด ควรเห็นเนื้อหาแบบใด ควรถูกจัดอยู่ในกลุ่มความเสี่ยงใด หรือควรได้รับคำแนะนำแบบใด
หากระบบทำงานได้ดี เด็กอาจได้รับประโยชน์มาก เช่น เรียนได้ตรงจุด ได้รับคำแนะนำเฉพาะบุคคล หรือเข้าถึงบริการที่เหมาะสมมากขึ้น แต่หากระบบออกแบบไม่ดี เด็กอาจถูกเลือกปฏิบัติ ถูกจำกัดโอกาส หรือถูกระบบผลักไปในทิศทางใดทิศทางหนึ่งโดยที่ผู้ปกครอง ครู และตัวเด็กเองไม่รู้ตัว
ประเทศไทยมีพระราชบัญญัติคุ้มครองข้อมูลส่วนบุคคล พ.ศ. 2562 หรือ PDPA เป็นกฎหมายหลักในการกำกับการเก็บ ใช้ และเปิดเผยข้อมูลส่วนบุคคล โดยหลักแล้ว ผู้ควบคุมข้อมูลต้องมีฐานทางกฎหมาย มีวัตถุประสงค์ที่ชัดเจน เก็บข้อมูลเท่าที่จำเป็น แจ้งให้เจ้าของข้อมูลทราบ รักษาความมั่นคงปลอดภัย และเคารพสิทธิของเจ้าของข้อมูล
แต่อย่างไรก็ตามเมื่อเจ้าของข้อมูลเป็นเด็ก เรื่องย่อมละเอียดขึ้น เพราะเด็กอาจยังไม่มีวุฒิภาวะเพียงพอที่จะเข้าใจผลของการให้ข้อมูล หรือเข้าใจว่าข้อมูลของตนจะถูกนำไปใช้ฝึกระบบ วิเคราะห์พฤติกรรม หรือส่งต่อให้ผู้ให้บริการรายอื่นอย่างไร
ปัญหาคือ PDPA ถูกออกแบบมาเพื่อคุ้มครองข้อมูลส่วนบุคคลโดยทั่วไป แต่ AI สร้างความเสี่ยงเพิ่มเติมอีกชั้นหนึ่ง เพราะความเสียหายไม่ได้เกิดจากข้อมูลรั่วไหลเท่านั้น แต่อาจเกิดจากการนำข้อมูลไปฝึกโมเดล การจัดกลุ่มเด็ก การตัดสินใจโดยระบบอัตโนมัติ อคติของอัลกอริทึม หรือการนำผลวิเคราะห์ไปใช้ต่อ
ดังนั้น ในยุค AI การปฏิบัติตาม PDPA แบบเดิม เช่น มี Privacy Notice มีช่องให้กดยินยอม หรือมีสัญญาประมวลผลข้อมูล อาจยังไม่เพียงพอ หากผู้ใช้ไม่เข้าใจว่า AI นั้น ๆ ทำงานอย่างไร ตัวอย่างเช่น AI ที่ใช้คัดกรองว่าเด็กมีปัญหาพฤติกรรมหรือไม่, AI ที่แนะนำเส้นทางการศึกษา, AI ที่วิเคราะห์อารมณ์เด็ก หรือ AI ที่จัดอันดับเด็กเพื่อให้เข้าถึงบริการบางประเภท ย่อมมีผลกระทบต่อชีวิตของเด็กมาก หากระบบผิดพลาด เด็กอาจเสียโอกาส ถูกตีตรา หรือถูกจำกัดทางเลือก โดยไม่รู้ว่าตนเองถูกประเมินจากอะไร ใครเป็นผู้ตัดสินใจ และจะแก้ไขผลการประเมินนั้นได้อย่างไร
1) ต้องแจ้งให้ชัดว่าเด็กกำลังใช้หรือถูกประเมินโดย AI ไม่ใช่ปล่อยให้เด็ก ผู้ปกครอง หรือครูเข้าใจว่าทุกอย่างเกิดจากการตัดสินใจของมนุษย์เท่านั้น
2) ต้องตรวจสอบย้อนหลังได้ว่า AI ใช้ข้อมูลอะไร ทำงานกับข้อมูลอย่างไร ใครเข้าถึงข้อมูลได้ และผลลัพธ์ของระบบเกิดจากปัจจัยใดบ้าง
3) ต้องประเมินผลกระทบก่อนนำ AI มาใช้กับเด็ก โดยไม่ควรประเมินเฉพาะความคุ้มค่าทางธุรกิจ แต่ต้องประเมินผลกระทบต่อสิทธิ ความเป็นส่วนตัว ความปลอดภัย และพัฒนาการของเด็กด้วย
4) ต้องมีมนุษย์กำกับดูแล โดยเฉพาะระบบที่มีผลต่อสิทธิหรือโอกาสสำคัญ ไม่ควรปล่อยให้ AI เป็นผู้ชี้ขาดโดยไม่มีมนุษย์ที่เข้าใจบริบทเข้ามาตรวจทาน
ดังนั้นแล้ว AI อาจช่วยให้เด็กเรียนดีขึ้น เข้าถึงโอกาสมากขึ้น และได้รับบริการที่เหมาะกับตนเองมากขึ้น แต่เด็กไม่ควรต้องแลกอนาคตของตนกับการถูกเก็บและวิเคราะห์ข้อมูลอย่างไม่รู้จบ
AI ควรถูกพัฒนาและใช้งานโดยไม่ลดทอนศักดิ์ศรี สิทธิ และความปลอดภัยของมนุษย์ โดยเฉพาะเด็กที่ยังไม่มีอำนาจต่อรองเพียงพอ ถ้า AI เป็นเทคโนโลยีที่ฉลาดขึ้นเรื่อย ๆ กฎหมายต้องพัฒนาให้ทันเช่นกัน เพราะในท้ายที่สุด เราจำเป็นต้องมีกฎหมายหรือมาตรการที่จะไม่ปล่อยให้ AI เป็นผู้มีอำนาจเหนือชีวิตของเด็ก
นายปรุงศักดิ์ เชาวน์ชาติ
ทนายความหุ้นส่วนบริหารสำนักงานกฎหมายอเบอร์