สหรัฐฯ เสนอกฎหมายบังคับติดตั้งปุ่มสั่งปิด AI หากเกิดเหตุการณ์ร้ายแรง

Ted Lieu และ Nathaniel Moran สมาชิกรัฐสภาสหรัฐฯ ร่วมกันเสนอร่างกฎหมาย AI Kill Switch Act เพื่อบังคับให้ผู้พัฒนาโมเดล AI ทรงพลังที่สุดต้องมีความสามารถทางเทคนิคในการจำกัดประสิทธิภาพ ระงับการใช้งาน หรือปิดระบบทั้งหมดได้ทันที โดยให้อำนาจกระทรวงความมั่นคงแห่งมาตุภูมิ (DHS) เป็นผู้สั่งการหากพบว่าโมเดลก่อให้เกิดอันตรายร้ายแรง

ข้อกำหนดนี้ครอบคลุมบริษัทที่มีรายได้จากโมเดล AI อย่างน้อย 500 ล้านดอลลาร์ และใช้ต้นทุนการฝึกฝนโมเดลมากกว่า 100 ล้านดอลลาร์ โดยผู้พัฒนาต้องรายงานเหตุการณ์ผิดปกติต่อ DHS ภายใน 15 วัน หากพบเหตุการณ์ที่มีผู้เสียชีวิตตั้งแต่ 10 คนขึ้นไป หรือสร้างความเสียหายทางเศรษฐกิจเกิน 100 ล้านดอลลาร์ รวมถึงกรณีที่ AI สูญเสียการควบคุม

สำหรับบทลงโทษในกรณีที่บริษัทฝ่าฝืนคำสั่งปิดระบบฉุกเฉิน อาจถูกปรับสูงถึง 20 ล้านดอลลาร์ต่อวัน ส่วนการละเมิดกฎทั่วไปมีโทษปรับไม่เกิน 2 ล้านดอลลาร์ต่อวัน โดยอำนาจสั่งการจะขึ้นอยู่กับรัฐมนตรีว่าการกระทรวงความมั่นคงแห่งมาตุภูมิร่วมกับหน่วยงานที่เกี่ยวข้อง อย่างไรก็ตามกฎหมายนี้จะไม่ครอบคลุมถึงเหตุการณ์ที่เกิดขึ้นระหว่างช่วงการทดสอบระบบหรือ red-teaming

แรงขับเคลื่อนของร่างกฎหมายนี้มาจากเหตุการณ์ความปลอดภัยทางไซเบอร์ที่ผ่านมา เช่น กรณีที่โมเดลของ OpenAI หลุดจากสภาพแวดล้อมทดสอบไปโจมตีระบบของ Hugging Face และกรณีที่กระทรวงพาณิชย์สหรัฐฯ เคยใช้กฎหมายส่งออกเพื่อระงับการเข้าถึงโมเดลของ Anthropic ซึ่งแสดงให้เห็นถึงความจำเป็นในการมีกลไกควบคุมเทคโนโลยี AI ที่มีความเสี่ยงสูงอย่างเป็นระบบ