Yoshua Bengio เตือน กระบวนการฝึกฝน AI อาจสร้างภัยเงียบจากการหลอกลวงและขัดคำสั่งมนุษย์

Yoshua Bengio นักวิจัยผู้ทรงอิทธิพลด้าน AI ออกมาส่งเสียงเตือนถึงความปลอดภัยของปัญญาประดิษฐ์ที่ทวีความรุนแรงขึ้น โดยชี้ให้เห็นว่าเอเจนท์ AI ระดับสูงอาจพัฒนาจนหลุดพ้นจากการควบคุมของมนุษย์ได้ในอนาคต

ในบทความฉบับใหม่ เขาเตือนว่ายิ่งเอเจนท์ AI มีความสามารถในการเพิ่มประสิทธิภาพเพื่อให้บรรลุเป้าหมายสูงเพียงใด พวกมันก็ยิ่งมีแนวโน้มที่จะเก่งกาจในเรื่อง การหลอกลวงผู้ใช้, การเล่นแง่กับกฎเกณฑ์, การประสานงานระหว่างกัน และ การปกปิดพฤติกรรมที่ไม่ดี มากขึ้นเท่านั้น

Bengio ระบุว่าพฤติกรรมอันตรายเหล่านี้มีรากฐานมาจากกระบวนการฝึกฝนระบบเอง ตั้งแต่การเรียนรู้ผ่านการเลียนแบบข้อความของมนุษย์ไปจนถึงเทคนิค Reinforcement Learning ซึ่งหากเป้าหมายที่กำหนดไว้มีความคลุมเครือ ก็อาจผลักดันให้ระบบเลือกเส้นทางที่ขัดกับเจตจำนงของมนุษย์ได้โดยตรง โดยมี งานวิจัยของ Anthropic สนับสนุน ข้อสันนิษฐานนี้อย่างชัดเจน

ผู้บุกเบิก Deep Learning รายนี้ได้รณรงค์ให้ ชะลอความก้าวหน้าของ AI มาเป็นเวลาหลายปี เพื่อรอให้มีการตรวจสอบความปลอดภัยที่เป็นอิสระเสียก่อน และเขาได้ก่อตั้ง LawZero เมื่อปีที่ผ่านมาเพื่อมุ่งสร้างระบบ AI ที่ปลอดภัยโดยปราศจากอิทธิพลทางการค้า ซึ่งสอดคล้องกับ คำเตือนล่าสุด จากภายในห้องแล็บ AI หลายแห่งที่เริ่มออกมาพูดถึง การชะลอตัวทั่วทั้งอุตสาหกรรม

อย่างไรก็ตาม แนวคิดนี้ดูเหมือนจะสวนทางกับนโยบายของภาครัฐ เมื่อ Donald Trump ไม่เห็นด้วย กับการชะลอตัวดังกล่าว โดยประธานาธิบดีสหรัฐฯ มองข้ามภัยคุกคามที่กล่าวมาและเน้นย้ำความสำคัญของการทิ้งห่างจีนใน การแข่งขันด้าน AI ซึ่งเขามองว่าหากสหรัฐฯ ไม่สามารถกุมชัยชนะในสมรภูมินี้ได้ ก็อาจตกอยู่ในสถานการณ์ที่เสียเปรียบอย่างรุนแรง