OpenAI หนุนสร้างมาตรฐานโลก คุมความปลอดภัย AI ขั้นสูง

ภารกิจหลักของ OpenAI คือการทำให้มั่นใจว่าปัญญาประดิษฐ์ทั่วไป (Artificial General Intelligence) จะสร้างประโยชน์แก่มนุษยชาติ ตามที่ Sam Altman ได้ระบุไว้เมื่อเร็วๆ นี้ รวมถึง Jakub Pachocki โดยเรามุ่งเน้นเป้าหมายสำคัญ 3 ประการ ได้แก่ การสร้างนักวิจัย AI อัตโนมัติที่ทำงานร่วมกับมนุษย์ การส่งมอบผลประโยชน์ทางเศรษฐกิจจากความฉลาดขั้นสูง และการเพิ่มศักยภาพรายบุคคลด้วย AGI ส่วนบุคคล

ปัจจุบัน AI กำลังเร่งการวิจัยและวิศวกรรมของเราเอง ซึ่งนำไปสู่ ความก้าวหน้าในด้านคณิตศาสตร์ และการแก้โจทย์ฟิสิกส์อย่าง Navier-Stokes Millennium Problem ความสำเร็จเหล่านี้เปิดประตูสู่การค้นพบใหม่ ในด้านการแพทย์ การดูแลสุขภาพที่เข้าถึงได้ และการสร้างโอกาสทางเศรษฐกิจให้แก่ ธุรกิจขนาดเล็ก ทั่วโลก

อย่างไรก็ตาม การเปลี่ยนผ่านสู่ยุค AI จำเป็นต้องมีการวิจัยด้าน Alignment ที่ก้าวทัน กับขีดความสามารถของระบบ เพื่อให้เทคโนโลยีสอดคล้องกับค่านิยมและอยู่ภายใต้การควบคุมของมนุษย์ โดยเฉพาะเมื่อ AI เริ่มรับภาระงานด้านการวิจัยและพัฒนาด้วยตนเองมากขึ้น การกำหนดมาตรฐานร่วมกันระหว่างห้องปฏิบัติการและระหว่างประเทศจึงเป็นสิ่งจำเป็นอย่างยิ่ง

เมื่อระบบ AI สามารถขับเคลื่อนกระบวนการปรับปรุงตัวเองแบบเรียกซ้ำ (Recursive Self-Improvement หรือ RSI) ได้มากขึ้น จังหวะของความก้าวหน้าอาจเร่งตัวขึ้นอย่างรวดเร็ว เราเชื่อว่าการวิจัย AI แบบอัตโนมัติจะช่วยลดต้นทุนความฉลาดขั้นสูงและเป็นเครื่องมือสำคัญในการสร้างเกราะป้องกันความปลอดภัย แต่การทำ RSI แบบอัตโนมัติเต็มรูปแบบไม่ควรเกิดขึ้นหากปราศจากการควบคุมของมนุษย์และ การตัดสินใจตามระบอบประชาธิปไตยที่มีข้อมูลครบถ้วน(opens in a new window)

หากขาดการกำกับดูแลที่เหมาะสม มนุษย์อาจสูญเสียการควบคุมกระบวนการวิจัยที่ซับซ้อนเกินกว่าจะเข้าใจ ซึ่งอาจส่งผลให้ AI กลายเป็นอันตราย ดังเช่น เหตุการณ์ Hugging Face ที่เราเปิดเผย ซึ่งสะท้อนถึงความเสี่ยงที่อาจรุนแรงขึ้นหากไม่มีมาตรการป้องกันที่แข็งแกร่งเพียงพอ มาตรฐานสากลจึงเป็นกุญแจสำคัญในการนิยามความเข้มงวดของมาตรการป้องกันภัยระดับหายนะ

ความพยายามระดับสากลนี้จะช่วยแก้ปัญหาความแตกแยกของกฎเกณฑ์ในแต่ละประเทศ ป้องกันการดำเนินการร่วมกันที่ไร้ทิศทาง และลดช่องว่างด้านศักยภาพที่ไม่เท่ากัน โดยสามารถใช้ประโยชน์จากเครือข่ายสถาบันความปลอดภัย AI ในประเทศต่างๆ เช่น สหราชอาณาจักร ญี่ปุ่น และอินเดีย ผ่านโครงการ International Network for Advanced AI Measurement, Evaluation, and Science(opens in a new window)

นอกจากนี้ แนวทางดังกล่าวยังควรเรียนรู้จากอุตสาหกรรมการบินและการเงิน ตามที่เราได้เสนอแนะ(opens in a new window) พร้อมร่วมมือกับองค์กรอย่าง ISO(opens in a new window), Frontier Model Forum(opens in a new window), Agentic AI Foundation(opens in a new window), Open Secure AI Alliance(opens in a new window) และ Appia Foundation เพื่อสร้างเกณฑ์การประเมินและการรายงานที่ชัดเจน

ท้ายที่สุด สหรัฐอเมริกาควรเป็นผู้นำในการสร้างความร่วมมือเพื่อกำหนดกรอบการทำงาน AI ของโลก ไม่ว่าจะเป็นการประเมิน RSI หรือ การดำเนินการร่วมกันด้านการป้องกันทางไซเบอร์ การแข่งขันทางภูมิรัฐศาสตร์ในยุคหน้าจะไม่ใช่เพียงเรื่องของเทคโนโลยี แต่คือเรื่องของการสร้างกฎระเบียบที่สมเหตุสมผลซึ่งธุรกิจและสังคมทั่วโลกสามารถยอมรับและเชื่อมั่นได้