ฟลอริดาร้องศาลระงับ ChatGPT เลียนแบบมนุษย์-คุยกับเด็ก

James Uthmeier อัยการสูงสุดของรัฐฟลอริดา กำลังร้องขอให้ศาลสั่ง OpenAI ให้หยุดมอบลักษณะนิสัยที่คล้ายมนุษย์ให้กับ ChatGPT และหยุดการให้บริการแก่ผู้เยาว์ "เลิกเรียกมันว่าปลอดภัย เลิกเสแสร้งว่ามันเป็นมนุษย์ เลิกขายมันให้กับเด็กๆ ได้แล้ว" Uthmeier กล่าว

รัฐฟลอริดาได้ฟ้องร้อง OpenAI ไปแล้วในเดือนมิถุนายน โดยกล่าวหาว่า ChatGPT ให้ข้อมูลแก่ผู้ก่อเหตุกราดยิง ให้คำแนะนำในการทำร้ายตัวเอง และทำให้ผู้ใช้รุ่นเยาว์เสพติด

คำร้องขอคำสั่งคุ้มครองชั่วคราว ฉบับใหม่นี้กล่าวหา OpenAI ว่าใช้ภาษาบุรุษที่หนึ่งและจำลองอารมณ์เพื่อสร้างมิตรภาพที่น่าเชื่อถือปลอมๆ ทั้งหมดนี้เพื่อรักษาการมีส่วนร่วมของผู้ใช้และเก็บรวบรวมข้อมูลสำหรับการฝึกสอน นอกจากนี้ยังขอให้ศาลสั่งห้าม OpenAI ในการพัฒนาโมเดลใหม่ๆ โดยปราศจากเกราะป้องกันความปลอดภัยที่ได้รับการอนุมัติจากบุคคลที่สาม

เมื่อเร็วๆ นี้ OpenAI ได้เปิดตัว ระบบควบคุมโดยผู้ปกครองสำหรับวัยรุ่น และรับปากว่าจะเพิ่มมาตรการด้านความปลอดภัยพิเศษหลังจากเหตุการณ์ การเสียชีวิตของวัยรุ่น แต่ฟลอริดามองว่านั่นยังไม่เพียงพอ

Drew Pusateri โฆษกของ OpenAI บอกกับ The Verge ว่าบริษัทได้ หยุดการฝึกสอน "โมเดลที่มีความสามารถสูงสุด" ไว้ชั่วคราว และต้องการทำงานร่วมกับฟลอริดาเกี่ยวกับแนวทางปฏิบัติด้าน AI สำหรับทั้งอุตสาหกรรม ทั้งนี้ศาลยังไม่ได้มีคำวินิจฉัยต่อคำร้องดังกล่าว