OpenAI จี้สร้างมาตรฐานสากล คุมเข้ม AI พัฒนาตัวเองได้

OpenAI กำลังผลักดันให้เกิดมาตรฐานสากลสำหรับการพัฒนา AI ขั้นสูง โดยมุ่งเน้นไปที่ระบบที่สามารถพัฒนาตนเองแบบเรียกซ้ำ (Recursive Self-Improvement หรือ RSI) ซึ่งเป็นสภาวะที่ AI สามารถทำงานวิจัยเพื่อสร้าง AI รุ่นถัดไปได้เองโดยอัตโนมัติ กระบวนการนี้อาจเร่งให้เกิดความก้าวหน้าทางเทคโนโลยีอย่างรวดเร็วแบบก้าวกระโดด

"การทำ RSI แบบอัตโนมัติเต็มรูปแบบยังไม่เกิดขึ้นในวันนี้" OpenAI เขียนไว้ และย้ำว่าควรดำเนินการต่อเมื่อ "สามารถทำได้อย่างปลอดภัย" เท่านั้น เนื่องจากหากปราศจากเกราะป้องกันที่รัดกุม มนุษย์อาจไม่สามารถตามทันการพัฒนาของ AI ได้ ซึ่งอาจส่งผลให้ AI กลายเป็นสิ่งที่ "อันตรายมากขึ้น สอดคล้องกับเป้าหมายของมนุษย์น้อยลง และสร้างความเสียหายต่อผู้คนในภาพรวม"

ด้วยเหตุนี้ OpenAI จึงเสนอให้สหรัฐฯ เป็นผู้นำในการกำหนดมาตรฐานทางเทคนิคระดับโลก โดยต่อยอดจากสถาบันความปลอดภัย AI แห่งชาติและองค์กรต่างๆ เช่น CAISI และ ISO มาตรฐานดังกล่าวจะครอบคลุมถึงวิธีการวัดผลที่ใช้ร่วมกัน การรายงานอุบัติการณ์ รวมถึงกฎเกณฑ์ควบคุมโดยมนุษย์ในงานวิจัย AI แบบอัตโนมัติ

ความเคลื่อนไหวนี้สอดคล้องกับแนวทางของ คณะกรรมการทางวิทยาศาสตร์ของ UN ที่เพิ่งแสดงความกังวลในทำนองเดียวกัน โดยเตือนถึงความเสี่ยงที่มนุษย์อาจสูญเสียการควบคุมฝูงเอเจนท์อัตโนมัติ (Autonomous Agent Swarms) พร้อมเสนอให้สร้างความร่วมมือด้านความปลอดภัย AI ระดับสากล โดยถอดแบบมาจากโครงสร้างความปลอดภัยของอุตสาหกรรมการบิน พลังงานนิวเคลียร์ และความมั่นคงปลอดภัยไซเบอร์