ผู้นำ AI โลกหนุนข้อเสนอ Amodei เพิ่มเกณฑ์กำกับดูแลความปลอดภัยที่เข้มข้นขึ้น

Sam Altman ซีอีโอของ OpenAI และ Elon Musk กำลังออกมาสนับสนุนข้อเรียกร้องให้ชะลอความเร็วในการพัฒนา AI ลง โดยทั้ง Altman, Musk และ Demis Hassabis อดีตซีอีโอของ DeepMind ได้ร่วมรับรองข้อเสนอของ Dario Amodei ซีอีโอของ Anthropic ในบางประเด็นสำคัญ

กลุ่มผู้นำด้านเทคโนโลยีเห็นพ้องตรงกันว่า จำเป็นต้องมีหน่วยงานกำกับดูแลที่เป็นอิสระเข้ามาปฏิบัติงานภายในห้องปฏิบัติการ AI ต่างๆ ซึ่งในส่วนของ Musk ได้ส่งสัญญาณเตือนเกี่ยวกับความเสี่ยงของ AI มาต่อเนื่องหลายปีแล้ว การออกมาสนับสนุนในครั้งนี้จึงไม่ใช่เรื่องที่น่าแปลกใจนักสำหรับแวดวงเทคโนโลยี

via X

นอกจากประเด็นการกำกับดูแลแล้ว Altman ยังเปิดเผยกับ Fortune ว่า OpenAI ตัดสินใจที่จะยังไม่นำบริษัทเข้าจดทะเบียนในตลาดหลักทรัพย์ (IPO) ภายในปีนี้ โดยระบุเหตุผลสำคัญเรื่องความกังวลด้านความปลอดภัย ซึ่งเขาได้ แชร์การตัดสินใจดังกล่าวเป็นการภายในให้พนักงานทราบตั้งแต่เดือนมิถุนายนที่ผ่านมา

อย่างไรก็ตาม มีการวิเคราะห์เพิ่มเติมว่าสถานะทางการเงินของ OpenAI ในขณะนี้อาจยังไม่เอื้ออำนวยต่อการทำ IPO เมื่อเปรียบเทียบกับคู่แข่งอย่าง Anthropic ซึ่งเป็นไปได้ว่าทั้งเหตุผลด้านความปลอดภัยและปัจจัยทางการเงินอาจเป็นสาเหตุร่วมที่ทำให้แผนการเข้าสู่ตลาดหุ้นต้องล่าช้าออกไป

ในอีกด้านหนึ่ง Peyman Milanfar นักวิจัยจาก Google ได้แสดงความเห็นคัดค้านข้อเสนอดังกล่าว โดยมองว่าแนวคิดเรื่อง การพัฒนาตนเองแบบเรียกซ้ำ (recursive self-improvement หรือ RSI) ยังเป็นเพียงสมมติฐานที่ขาดประสบการณ์รองรับ เนื่องจากวงจรการตอบกลับ (feedback loops) ของระบบนั้นไม่มีความเสถียรโดยธรรมชาติ

Milanfar แย้งว่ายิ่งระบบพยายามเพิ่มประสิทธิภาพให้ตัวเองมากเท่าไหร่ ก็ยิ่งมีโอกาสติดอยู่ในจุดบอดมากขึ้นเท่านั้น และหลักฐานที่เชื่อถือได้ควรมาจากโลกแห่งความเป็นจริง ไม่ใช่เพียงแค่ผลทดสอบมาตรฐาน (benchmarks) เขาจึงมองว่าการตั้ง "เกณฑ์จำกัดความเร็ว" ตามข้อเสนอของ Amodei อาจไม่มีความจำเป็น โดยระบุว่า "ระบบที่ปรับปรุงตนเองได้อย่างน่าเชื่อถือจะถูกควบคุมและจำกัดด้วยขอบเขตที่ดูเหมือนสิ้นเปลือง เพราะความเสถียรนั่นแหละคือตัวจำกัดความเร็วที่แท้จริง"