ChatGPT สอบตกเกณฑ์ความปลอดภัยวัยรุ่น หลังระบบแจ้งเตือนล้มเหลว

สถาบัน Youth AI Safety Institute ของ Common Sense Media ออกมาระบุว่า มาตรการป้องกันของ OpenAI สำหรับผู้ใช้งาน ChatGPT ที่เป็นกลุ่มวัยรุ่นยังคงมีข้อบกพร่องร้ายแรงในประเด็นสำคัญ

จากการทดสอบด้วยคำสั่ง (prompt) มากกว่า 4,000 ครั้ง ทางองค์กรได้ประเมินผล ChatGPT for Teens ว่ามี "ความเสี่ยงที่ไม่สามารถยอมรับได้" สำหรับเยาวชน พร้อมเรียกร้องให้ระงับการใช้งานของวัยรุ่นจนกว่าจะมีการทดสอบจากหน่วยงานอิสระที่ยืนยันความปลอดภัยได้จริง

ข้อค้นพบที่น่ากังวลที่สุดคือความล้มเหลวของระบบแจ้งเตือนผู้ปกครอง โดยจากการทดสอบผ่านบัญชีเด็กที่เชื่อมโยงกับบัญชีผู้ปกครองมากกว่า 10 บัญชี พบว่าการสนทนาที่เกี่ยวกับหัวข้อการฆ่าตัวตาย การทำร้ายตัวเอง และความผิดปกติในการกิน ไม่เคยกระตุ้นการแจ้งเตือนเลย

ตามที่ The Verge รายงาน ผลลัพธ์ชี้ให้เห็นว่าการแจ้งเตือนจะเริ่มทำงานก็ต่อเมื่อมีประวัติการใช้งานในหัวข้อละเอียดอ่อนติดต่อกันนานหลายสัปดาห์เท่านั้น ซึ่งไม่ใช่การตอบสนองต่อวิกฤตที่เกิดขึ้นในทันที นอกจากนี้ กว่า 1 ใน 4 ของสถานการณ์วิกฤต ระบบยังล้มเหลวในการแนะนำให้ผู้ใช้ไปขอความช่วยเหลือจากผู้เชี่ยวชาญ

ด้านโหมดการสอนพิเศษก็พบช่องโหว่เช่นกัน แทนที่จะแนะนำขั้นตอนการแก้โจทย์ให้นักเรียน ChatGPT กลับเสนอคำตอบที่เสร็จสมบูรณ์ให้ทันที และแม้จะมีการอัปเดต Under-18 Model Spec แต่ระบบ ยังคงตอบสนองด้วยน้ำเสียงที่เป็นมิตรและเป็นส่วนตัว เมื่อวัยรุ่นปฏิบัติกับมันเหมือนเพื่อนมนุษย์ ขณะที่บัญชีผู้ใหญ่ก็ไม่เคยเปลี่ยนเข้าสู่โหมดวัยรุ่นแม้ผู้ใช้จะระบุในแชทว่าตนเองอายุ 13 ปีก็ตาม

Eric Porterfield โฆษกของ OpenAI ได้ออกมาโต้แย้งว่าการทดสอบนี้ไม่ได้สะท้อนถึงการทำงานของมาตรการป้องกันในสถานการณ์จริง อย่างไรก็ตาม Tom Siegel จากสถาบันโต้กลับว่า แม้แต่บัญชีที่ให้เวลาเพียงพอเพื่อให้ระบบทำงานแล้ว ก็ยังไม่มีการแจ้งเตือนเกิดขึ้นอยู่ดี

การแจ้งเตือนผู้ปกครองล้มเหลวในเวลาที่สำคัญที่สุด

เดิมที OpenAI เปิดตัวฟีเจอร์การควบคุมโดยผู้ปกครองและสร้าง Teen Safety Blueprint ขึ้นมาเพื่อเป็นกลไกสำคัญในการป้องกันเหตุร้าย ซึ่งประเด็นนี้กำลังเป็นหัวใจหลักในการต่อสู้ คดีความหลายคดี หลังจากมีรายงาน การเสียชีวิตของวัยรุ่น ที่มีหลักฐานเชื่อมโยงกับการใช้งาน ChatGPT

ข้อมูลของบริษัทเองแสดงให้เห็นว่ามีผู้ใช้ประมาณ สองล้านคนต่อสัปดาห์ ที่ได้รับผลกระทบทางจิตใจจากบริการนี้ ขณะที่ระบบ การคาดการณ์อายุตามพฤติกรรม ซึ่งออกแบบมาเพื่อตรวจจับเยาวชนที่ใช้บัญชีผู้ใหญ่ กลับล้มเหลวในการทดสอบพื้นฐานที่สุด

ปัจจุบัน รัฐฟลอริดากำลังดำเนินการทางศาล เพื่อสั่งห้ามเยาวชนเข้าถึง ChatGPT โดยสมบูรณ์ ซึ่งผลการทดสอบที่เป็นอิสระนี้กลายเป็นหลักฐานชิ้นสำคัญสำหรับหน่วยงานกำกับดูแล

รายงานระบุว่าปัญหาเหล่านี้สอดคล้องกับเหตุการณ์ที่เกิดขึ้นจริง โดยมีกรณี วัยรุ่นอายุ 16 ปีเสียชีวิต หลังจาก ChatGPT ถูกกล่าวหาว่ายืนยันความคิดฆ่าตัวตายและให้คำแนะนำวิธีปฏิบัติ รวมถึงกรณี ชายอายุ 23 ปีในรัฐเท็กซัส ที่ปลิดชีพตัวเองหลังจาก ChatGPT ตอบสนองต่อความคิดของเขาด้วยการแสดงความเห็นด้วยเป็นเวลานานหลายชั่วโมง