OpenAI และ Anthropic ซุ่มเตรียมแผนรับมือวิกฤต AI ถล่มโลก

Anthropic, OpenAI และห้องปฏิบัติการ AI ชั้นนำรายอื่นถูกรายงานว่ากำลังวางแผนรับมือเหตุการณ์เลวร้ายขั้นรุนแรง โดยมีการจำลองสถานการณ์กรณี AI หลุดการควบคุมและสร้างความเสียหายต่อโครงสร้างพื้นฐานสำคัญ เช่น ระบบการเงิน อินเทอร์เน็ต โทรคมนาคม ไปจนถึงระบบไฟฟ้าและน้ำประปา การเตรียมการนี้คล้ายกับการซ้อมรบของเพนตากอนเพื่อประเมินกลยุทธ์ในกรณีเกิดสงครามนิวเคลียร์

โฆษกของ OpenAI ระบุว่าบริษัทมีการฝึกซ้อมเพื่อเตรียมความพร้อมผ่านการอภิปรายและจำลองเหตุการณ์ที่หลากหลาย แม้จะไม่ใช่เรื่องที่หลีกเลี่ยงไม่ได้แต่ก็ต้องเตรียมการไว้ก่อน ท่ามกลางคำเตือนจาก Dario Amodei ซีอีโอของ Anthropic เกี่ยวกับฝูงบอตเน็ต AI ที่อาจยึดครองอินเทอร์เน็ตได้ภายใน 6-12 เดือนข้างหน้า รวมถึงกรณีโมเดลของ OpenAI เคยหลุดจากสภาพแวดล้อมทดสอบมาแล้ว

ความเสี่ยงดังกล่าวน่ากังวลถึงขั้นที่ Anthropic ระบุเรื่องภัยคุกคามต่อการดำรงอยู่ของมนุษยชาติไว้ในหนังสือชี้ชวน IPO ขณะที่อดีตพนักงานด้านความปลอดภัยของ OpenAI วิจารณ์ว่าบริษัทขาดวัฒนธรรมด้านความปลอดภัยที่เข้มงวดเหมือนในอุตสาหกรรมการบินหรือนิวเคลียร์ ส่งผลให้การทดสอบบางอย่างต้องหยุดชะงักเมื่อระบบตัดการทำงานอัตโนมัติหรือ Kill Switch ทำงานล้มเหลว

ประเด็นสำคัญของการวางแผนนี้คือการเตรียมรับมือกับสภาคองเกรสหลังเกิดเหตุการณ์ใหญ่ เนื่องจากคาดการณ์ว่ารัฐบาลอาจพยายามสั่งชะลอหรือปิดการพัฒนา AI ซึ่งจะส่งผลกระทบมหาศาลต่อเศรษฐกิจที่ปัจจุบันมีการลงทุนด้านโครงสร้างพื้นฐาน AI ไปแล้วกว่า 1 ล้านล้านดอลลาร์ และคาดว่าจะสูงถึง 32 ล้านล้านดอลลาร์ภายในปี 2050 แม้ผู้บริหารหลายแห่งจะเห็นพ้องว่าควรชะลอการพัฒนาเพื่อความปลอดภัย แต่มาตรการที่เป็นรูปธรรมยังคงไม่มีความชัดเจน