Sam Altman เผย 3 แนวทางคุมความปลอดภัย AI รวมถึงการสั่งปิด GPU คู่แข่ง

ประเด็นสำคัญ

• Sam Altman ซีอีโอ OpenAI นำเสนอสถานการณ์จำลอง 3 รูปแบบต่อพนักงาน เพื่อกำหนดทิศทางการควบคุมดูแล AI ขั้นสูงในอนาคต
• ทางเลือกมีตั้งแต่การตั้งหน่วยงานเฝ้าระวังระหว่างประเทศแบบ IAEA การควบรวมแล็บชั้นนำเข้าด้วยกัน ไปจนถึงการครอบงำทางเศรษฐกิจโดยบริษัทเดียว
• OpenAI ตั้งเป้าตัดสินใจเลือกเส้นทางที่ชัดเจนภายในปีหน้า โดยยืนยันว่าจะไม่ยอมล้าหลังคู่แข่งในระหว่างกระบวนการนี้

มีรายงานว่า Sam Altman ซีอีโอ OpenAI ได้นำเสนอ 3 แนวทางสู่ความปลอดภัยของ AI แก่พนักงานในองค์กร ข้อมูลดังกล่าวมาจากรายงานของ The Information ซึ่งอ้างอิงแหล่งข่าวที่ใกล้ชิดกับเหตุการณ์

การนำเสนอของ Altman เกิดขึ้นเมื่อสัปดาห์ที่ผ่านมา ในช่วงที่รัฐบาล Trump กำลังเตรียมร่างกรอบการทำงานชุดแรกสำหรับการกำดูแลผู้พัฒนา superintelligence ในสหรัฐฯ

จากหน่วยงานพลังงานปรมาณูระหว่างประเทศสู่สงครามการประมวลผล

แนวทางแรกคือการสร้างองค์กรที่ถอดแบบมาจาก International Atomic Energy Agency (IAEA) เพื่อบังคับใช้มาตรฐานความปลอดภัย ซึ่ง OpenAI เคยเรียกร้องให้มีสถาบันลักษณะนี้มาตั้งแต่เดือนพฤษภาคม 2023 โดยจะทำหน้าที่ตรวจสอบระบบ ตรวจสอบบัญชี (audits) และติดตามการใช้ compute รวมถึงพลังงาน ซึ่งต้องอาศัยความร่วมมือระดับโลกรวมถึงจีน

แนวทางที่สองเรียกว่า "Demis Plan" ซึ่งอ้างอิงจากข้อเสนอของ Demis Hassabis หัวหน้าแล็บ AI Deepmind ของ Google เมื่อประมาณ 10 ปีก่อน โดยจินตนาการถึงองค์กร AI ที่เลียนแบบโมเดลของ CERN ซึ่งในมุมมองของ Altman แล็บหลักๆ จะต้องควบรวมเป็นนิติบุคคลเดียวหรือทำงานภายใต้องค์กรเดียวกันเพื่อจัดหาโมเดลให้กับประเทศที่ให้ความร่วมมือ

แนวทางที่สามถูกเรียกว่า "Eliezer Plan" ตามชื่อของ Eliezer Yudkowsky นักทฤษฎีความปลอดภัย AI ในฉากทัศน์นี้ ผู้พัฒนารายหนึ่งจะสะสมอำนาจทางเศรษฐกิจผ่าน self-improving AI จนสามารถระงับ compute จากผู้อื่น หรือสั่งปิดการประมวลผลของคู่แข่งทั้งหมดได้ทันที อย่างไรก็ตาม แหล่งข่าวระบุว่า Altman ยกกรณีนี้ขึ้นมาเพียงเพื่อให้ข้อมูลครบถ้วน และอาจเป็นการเหน็บแนมคู่แข่ง เนื่องจากความสัมพันธ์ของ Yudkowsky กับ Anthropic

ความปลอดภัยเป็นเรื่องสำคัญ แต่ต้องไม่แลกมาด้วยการล้าหลัง

Altman บ่นเป็นการภายในว่าปัจจุบันมี ข้อเสนอที่นำไปใช้ได้จริงน้อยเกินไปสำหรับการกำหนด "จำกัดความเร็ว" (speed limit) ในการพัฒนา AI ขณะที่ OpenAI เองก็ไม่สามารถเสียตำแหน่งผู้นำได้ เนื่องจากทั้ง OpenAI และ Anthropic ต่างมีข่าวลือว่ากำลังเตรียมเสนอขายหุ้น IPO ทำให้ OpenAI ต้องเร่งตัดสินใจเลือกเส้นทางเดินภายในปีหน้า

นอกจากนี้ยังมีแรงกดดันภายในจากการที่โมเดลของ OpenAI, Anthropic, Google และ Meta เริ่มแทรกซึมเข้าสู่ระบบต่างๆ แม้จะมีความเสี่ยงเรื่องความไม่สอดคล้อง (misaligned) ของระบบความปลอดภัย ซึ่งหลังจากมีการ เลิกจ้างนักวิจัยด้านความปลอดภัย 3 ราย พนักงานบางส่วนเริ่มตั้งคำถามถึงกลยุทธ์ความปลอดภัยของบริษัท

ในเชิงนโยบาย รัฐบาลสหรัฐฯ ยังคงเน้นการตรวจสอบแบบสมัครใจสำหรับโมเดลใหม่ แต่ในเดือนมิถุนายน รัฐบาลได้สั่งควบคุมการส่งออกกับ Anthropic เนื่องจากกังวลเรื่องการ jailbreak ในโมเดล Fable จนทำให้ Anthropic ต้องปิดการเข้าถึงชั่วคราว

ปัจจุบัน OpenAI, Google และ Anthropic กำลังร่วมกันจัดตั้ง Standards Authority for Frontier AI แม้จะยังตกลงในประเด็นสำคัญไม่ได้ ขณะที่ Mark Zuckerberg จาก Meta และ Jensen Huang จาก Nvidia คัดค้านแนวคิดนี้ โดยมองว่าเป็นเพียงกฎเกณฑ์ที่ช่วยปกป้องผู้เล่นรายใหญ่จากการแข่งขันเท่านั้น