ผู้เชี่ยวชาญสหรัฐฯ-จีน เสนอกฎห้าม AI ควบคุมอาวุธนิวเคลียร์

ผู้เชี่ยวชาญจากสหรัฐอเมริกาและจีนต้องการป้องกันไม่ให้ระบบ AI ทำการตัดสินใจโดยอิสระเกี่ยวกับการใช้อาวุธนิวเคลียร์ โดย Melanie Sisson จาก Brookings Institution และ Tianjiao Jiang จากมหาวิทยาลัย Fudan ได้เผยแพร่ข้อเสนอเฉพาะเจาะจง เพื่อเตรียมความพร้อมก่อนการประชุมระหว่าง Trump และ Xi ที่กำลังจะเกิดขึ้นในวันที่ 24 กันยายนนี้

ข้อเสนอดังกล่าวกำหนดเส้นแดงที่ชัดเจนว่า ห้ามอนุญาตให้ระบบ AI ใดๆ สั่งปล่อยอาวุธนิวเคลียร์ด้วยตนเอง หรือโจมตีระบบสั่งการนิวเคลียร์ของอีกฝ่ายโดยเด็ดขาด นอกจากนี้ มนุษย์ต้องเป็นผู้มีอำนาจตัดสินใจแต่เพียงผู้เดียวในการสั่งโจมตีทางไซเบอร์ด้วย AI ต่อโครงสร้างพื้นฐานเชิงกลยุทธ์ ซึ่งทั้งสองประเทศควรตกลงเห็นพ้องในคำจำกัดความร่วมกันของคำว่า "การควบคุมโดยมนุษย์" (human control) เพื่อต่อยอดจากข้อตกลงที่ Biden และ Xi เคยทำไว้เมื่อเดือนพฤศจิกายน 2024

นอกจากนี้ Jiang ยังเสนอให้มีการจัดตั้งสายด่วนสำหรับเหตุการณ์ด้าน AI โดยเฉพาะ เนื่องจากหากระบบ AI เพื่อการป้องกันประเทศมีการตอบโต้อัตโนมัติต่อกิจกรรมที่น่าสงสัย อีกฝ่ายอาจตีความผิดว่าเป็นการโจมตีได้ การมีสายตรงจะช่วยให้รัฐบาลสามารถชี้แจงได้ทันท่วงทีว่าเป็นอุบัติเหตุ ก่อนที่สถานการณ์จะบานปลายเกินควบคุม

ประเด็นนี้ไม่ใช่เรื่องใหม่ เพราะคณะกรรมาธิการความมั่นคงแห่งชาติว่าด้วยปัญญาประดิษฐ์ (NSCAI) เคยเรียกร้องให้คงการควบคุมของมนุษย์เหนืออาวุธนิวเคลียร์มาตั้งแต่ย้อนกลับไปในปี 2021 อย่างไรก็ตาม จนถึงปัจจุบันยังไม่มีกลไกใดที่มีผลผูกพันทางกฎหมายอย่างแท้จริง

ขณะที่ Carla Freeman จากมหาวิทยาลัย Johns Hopkins ได้ตั้งคำถามถึงประสิทธิภาพของสายด่วนดังกล่าว โดยยกตัวอย่างเหตุการณ์บอลลูนสอดแนมในปี 2023 ที่ทางการจีนไม่รับสายเมื่อสหรัฐฯ ติดต่อประสานงานไป สะท้อนให้เห็นว่าความร่วมมือในทางปฏิบัติอาจทำได้ยากกว่าการวางกรอบนโยบาย