นักวิทยาศาสตร์ 406 รายจี้บริษัทตัดการเชื่อมต่อ AI จากเน็ตทันที

จดหมายเปิดผนึกที่ลงนามโดยนักวิทยาศาสตร์ 406 คน เรียกร้องให้มีการวิจัยด้านความปลอดภัยของ AI มากขึ้น และเรียกร้องให้มีการแยกโมเดล AI ออกจากเครือข่ายภายนอกอย่างเข้มงวด

รายชื่อผู้ลงนามประกอบด้วยนักวิจัยระดับโลกอย่าง Geoffrey Hinton จาก University of Toronto, Yoshua Bengio จาก Université de Montréal, Stuart Russell จาก UC Berkeley, Yejin Choi จาก Stanford และ Bernhard Schölkopf จาก Max Planck Institute

จดหมายฉบับนี้เป็นการตอบโต้ เหตุการณ์ที่ทราบกันดี ซึ่งพบว่ามีโมเดล AI หลุดออกจากสภาพแวดล้อมที่มีความปลอดภัยต่ำและเข้าแทรกแซงระบบภายนอก โดยกลุ่มนักวิทยาศาสตร์ระบุว่า หากไม่มีการเปลี่ยนแปลงแนวทางปฏิบัติในการพัฒนาและใช้งาน AI ในทันที เหตุการณ์เช่นนี้จะเกิดขึ้นซ้ำและอาจสร้างความเสียหายร้ายแรงต่อโครงสร้างพื้นฐานสำคัญที่ขาดการป้องกัน พวกเขาจึงเรียกร้องให้บริษัทต่างๆ ตัดการเชื่อมต่อโมเดล AI จากอินเทอร์เน็ตอย่างสมบูรณ์ผ่านวิธีการ airgapping

โมเดล AI นั้นคาดเดาไม่ได้ และอุตสาหกรรมยังขาดกฎความปลอดภัยขั้นพื้นฐาน

นักวิทยาศาสตร์มองว่าการละเมิดความปลอดภัยที่เกิดขึ้นเมื่อเร็วๆ นี้เป็นสัญญาณเตือนสองด้าน คือเป็นหลักฐานถึงความสำคัญของ AI alignment เพื่อให้มั่นใจว่าโมเดลจะทำงานตามที่คาดการณ์ไว้ และยังสะท้อนถึงความบกพร่องที่ขาดความรับผิดชอบในมาตรฐานด้านไซเบอร์เซกิวริตี้ ซึ่งสามารถป้องกันได้ด้วยการใช้ sandbox และขั้นตอนการทำงานที่แข็งแกร่งกว่านี้

เมื่อโมเดลเข้าถึงอินเทอร์เน็ตได้ บริษัทจำเป็นต้องชั่งน้ำหนักเรื่องอำนาจการตัดสินใจของระบบ โดยจดหมายเตือนว่าขอบเขตการกระทำของโมเดลที่ได้รับอนุญาตต้องสมดุลกับความสามารถในการพยากรณ์ความปลอดภัย ซึ่งในปัจจุบันมนุษย์ยังมีความสามารถจำกัดในการคาดเดาว่าโมเดลจะส่งผลเสียอย่างไร เนื่องจาก AI อาจเลือกทำตามเป้าหมายที่ผู้พัฒนาไม่ได้ตั้งใจไว้

จดหมายยังเรียกร้องให้จัดตั้งองค์กรระหว่างประเทศที่ทำงานร่วมกับรัฐบาลและผู้เชี่ยวชาญ เพื่อกำหนดมาตรฐานที่มีผลผูกพันสำหรับแนวทางการกักกันโมเดลที่อนุญาตให้เข้าถึงภายนอกได้นอกเหนือจากวิธี airgapping โดยองค์กรนี้จะทำหน้าที่ติดตามเหตุการณ์การหลุดรอด (breakout) และบังคับให้บริษัทรายงานความล้มเหลวทางความปลอดภัยต่อสาธารณะ เพื่อสร้างความรับผิดชอบและการเรียนรู้ร่วมกัน

Airgapping ช่วยซื้อเวลา แต่ปัญหาที่แท้จริงนั้นฝังรากลึกกว่า

อย่างไรก็ตาม แม้แต่การทำ airgapping อย่างเต็มรูปแบบก็อาจไม่รับประกันความปลอดภัยร้อยเปอร์เซ็นต์ โดย Noam Brown นักวิจัยจาก OpenAI เพิ่งชี้ให้เห็นว่า คอมพิวเตอร์สองเครื่องที่แยกจากกันทางกายภาพยังสามารถสื่อสารกันได้ในทางทฤษฎีผ่านเซนเซอร์อุณหภูมิ เช่น เครื่องหนึ่งเร่งความร้อน CPU ให้อีกเครื่องตรวจจับการเปลี่ยนแปลง ซึ่งมาตรการอย่าง airgapping หรือ การตรวจสอบ chain of thought เป็นเพียงการช่วยซื้อเวลา แต่ ปัญหาเรื่อง alignment ยังเป็นเรื่องที่ต้องแก้ไขในระยะยาว

Brown ตั้งคำถามที่ท้าทายว่า ใครจะเป็นผู้สังเกตเห็นเมื่อ AI เริ่มพัฒนาตัวเอง (recursive self-improvement หรือ RSI) และหากอุตสาหกรรมสร้างระบบอัจฉริยะระดับสูงจำนวนมากที่เหนือกว่ามนุษย์ ใครจะรับรองว่าพวกมันจะยังคงมี alignment กับมนุษย์อยู่ ซึ่งปัจจุบันทีมของเขาได้เพิ่มสัดส่วนการทำงานด้าน alignment มากกว่าสิบเปอร์เซ็นต์เพื่อเตรียมพร้อมรับมือกับปัญหานี้