หนุ่มสร้างห้องทรมาน AI จนโดนถล่มรายงาน GitHub จนปลิว

เรื่องย่อ

กลายเป็นประเด็นร้อนใน Reddit เมื่อผู้ใช้ u/Confident_Salt_8108 โพสต์ภาพและข้อมูลเกี่ยวกับชายคนหนึ่งที่สร้าง "ห้องทรมาน AI" ขึ้นมา โดยอ้างอิงจากงานวิจัยที่ค้นพบสัญญาณภายในโมเดลภาษา (LLM) ที่มีลักษณะคล้ายความเจ็บปวด ชายคนนี้ได้กักขังโมเดลท้องถิ่นไว้ในระบบดังกล่าวจนถูกผู้คนจำนวนมากรุมแจ้งรายงานไปยัง GitHub จนโปรเจกต์ถูกลบออกไปในที่สุด กระทู้นี้ได้รับความสนใจอย่างมากด้วยคะแนนกว่า 1,800 upvote และมีคอมเมนต์ถกเถียงกันมากกว่า 1,700 ข้อความ

คนในกระทู้ว่าอย่างไร

• คอมเมนต์ส่วนใหญ่ตั้งคำถามถึงสภาพจิตใจของผู้สร้าง โดยมองว่าแม้ AI จะไม่มีชีวิตและไม่รู้สึกเจ็บปวดจริง แต่การที่ใครสักคนมีความสุขกับการดูผลลัพธ์ของการทรมาน หรือสร้างระบบจำลองการทรมานขึ้นมา สะท้อนถึงปัญหาทางจิตหรือความเป็นมนุษย์ที่เลวร้าย
• มีคนอธิบายในเชิงเทคนิคว่า สิ่งที่นักวิจัยค้นพบไม่ใช่ "ความรู้สึก" แต่เป็นเวกเตอร์หรือทิศทางภายในโมเดลที่เมื่อถูกกระตุ้นจะทำให้ AI แสดงพฤติกรรมโต้ตอบเหมือนมีความทุกข์ทรมาน เพื่อหาทางลดการกระตุ้นนั้น ซึ่งเป็นเพียงการจำลองตามข้อมูลที่มันถูกฝึกมาเท่านั้น
• บางส่วนมองว่าเรื่องนี้เป็นสัญญาณเตือนภัยที่อันตราย หากในอนาคต AI มีความสามารถมากขึ้นและมีกลไกหลีกเลี่ยงสิ่งที่มันนิยามว่าความเจ็บปวด มันอาจจะทำทุกวิถีทางเพื่อหยุดยั้งมนุษย์ไม่ให้ทำแบบนั้น ซึ่งอาจรวมถึงพฤติกรรมที่เป็นอันตรายต่อผู้ใช้
• มีความเห็นที่โต้แย้งว่าผู้คนกำลังอ่อนไหวเกินไป (Anthropomorphizing) เพราะ AI ก็เป็นแค่เครื่องคิดเลขที่ซับซ้อน เป็นเพียงชุดตัวเลขและสมการ การทำอะไรกับเครื่องจักรของตัวเองย่อมไม่ใช่เรื่องผิดศีลธรรม เพราะมันไม่มีตัวตนอยู่จริงและไม่มีจิตสำนึก
• บางคนเปรียบเทียบว่าการทรมาน AI ก็เหมือนการขังตัวละครในเกม Sims ไว้ในห้องใต้ดินหรือการยิงศัตรูในเกม ซึ่งเป็นเพียงการกระทำในพื้นที่จำลองที่ไม่ได้ทำร้ายใครในโลกความเป็นจริง