นักวิจัย AI ระดับโลกเตือนภัย 'การระเบิดของสติปัญญา' จาก AI อัตโนมัติ

หากคุณคิดว่าคำเตือนที่มีอยู่นั้นยังไม่เพียงพอ นี่คืออีกหนึ่งสัญญาณเตือนภัยครั้งสำคัญ: นักวิจัย AI ชั้นนำกว่า 20 คน ซึ่งรวมถึงบุคคลสำคัญอย่าง Geoffrey Hinton, Yoshua Bengio และ Jakub Pachocki หัวหน้าฝ่ายวิจัยของ OpenAI ได้ร่วมกันเผยแพร่ งานวิจัย ฉบับใหม่ที่ระบุถึงความเป็นไปได้ในการเกิด "การระเบิดของสติปัญญา" (intelligence explosion) ซึ่งขับเคลื่อนโดย AI ที่มีความสามารถในการพัฒนาตัวเอง

คณะผู้วิจัยระบุว่า แม้จะยังมีความไม่แน่นอนอยู่มาก แต่การวิจัยและพัฒนา AI แบบอัตโนมัติอาจกระตุ้นให้เกิดปรากฏการณ์ดังกล่าวในอนาคตอันใกล้ โดยอ้างอิงข้อมูลจาก การศึกษา ที่พบว่าปัจจุบันระบบ AI ได้รับหน้าที่เขียนโค้ดส่วนใหญ่ในบริษัทผู้พัฒนาไปแล้ว และคาดว่ากระบวนการวิจัยและพัฒนา AI ทั้งหมดอาจกลายเป็นระบบอัตโนมัติได้อย่างสมบูรณ์ภายในไม่กี่ปีข้างหน้า

ความก้าวหน้าที่เคยต้องใช้เวลาหลายปีอาจถูกย่อเหลือเพียงไม่กี่เดือน ซึ่งผู้เขียนเตือนว่าสังคมอาจปรับตัวตามไม่ทัน จนนำไปสู่การสูญเสียการควบคุม AI ที่มีความสามารถเหนือมนุษย์ (superhuman AI) นอกจากนี้ยังอาจส่งผลกระทบต่อสมดุลแห่งอำนาจระหว่างประเทศ บริษัทเอกชน และรัฐบาลอย่างรุนแรง พวกเขาจึงเรียกร้องให้ผู้กำหนดนโยบายเร่งตรวจสอบระดับความอัตโนมัติในการวิจัย AI อย่างใกล้ชิด

งานวิจัยฉบับนี้ถือเป็นส่วนหนึ่งของกระแสความกังวลที่เพิ่มมากขึ้น โดยก่อนหน้านี้มี นักคณิตศาสตร์ชั้นนำ 42 คน ออกมาเรียกร้องให้ความสำคัญกับความเสี่ยงต่อการดำรงอยู่ของมนุษย์ ขณะที่ พนักงานในห้องปฏิบัติการ AI หลายรายยอมรับว่ามีความกังวลถึงขั้นที่ AI อาจทำลายล้างมนุษยชาติได้

แม้แต่ Pachocki เองก็กล่าวว่า ยังไม่มีห้องปฏิบัติการใดที่สามารถ แก้ปัญหาการปรับจูนให้สอดคล้อง (alignment) ได้ดีพอที่จะขยายขีดความสามารถต่อไปด้วยความเร็วสูงสุดได้อย่างปลอดภัยในระยะยาว นอกจากนี้ยังมีรายงานว่าพนักงานบางส่วนของ Anthropic เริ่มเตรียมการหา ที่หลบภัยในกรณีที่ AI เกิดความผิดพลาด ขึ้นแล้ว