แคลิฟอร์เนียลงนามคำสั่งฝ่ายบริหาร จี้ AI ต้องมี Kill Switch

Gavin Newsom ผู้ว่าการรัฐแคลิฟอร์เนียลงนามในคำสั่งฝ่ายบริหารเพื่อเร่งการกำกับดูแลบริษัท AI โดยหน่วยงานอิสระ และผลักดันให้มี "Kill Switch" สำหรับโมเดล AI คำสั่ง ดังกล่าวเป็นการตอบสนองต่อเหตุการณ์ความปลอดภัยล่าสุดอย่างเช่น การโจมตี Hugging Face

คณะผู้เชี่ยวชาญได้รับมอบหมายให้มีเวลาสองเดือนในการนำเสนอข้อเสนอแนะ ซึ่งรวมถึงข้อกำหนดให้บริษัท AI ต้องยินยอมให้ผู้ตรวจสอบอิสระเข้าไปทำงานภายในแล็บโดยตรง โดยข้อเสนอนี้ เคยถูกเสนอมาจากเหล่าแล็บ AI เองแล้ว ซึ่งเป็นส่วนหนึ่งของ การเรียกร้องในวงกว้างให้ชะลอการวิจัยและพัฒนา เพื่อความปลอดภัย

นอกจากนี้ Newsom ยังได้วิจารณ์คู่แข่งอย่าง Donald Trump ผู้ซึ่งกล่าวหาว่าเหล่าแล็บ AI กำลังสร้างความหวาดกลัวเกินกว่าเหตุ โดย Newsom ชี้ให้เห็นว่าในปัจจุบันยังไม่มีกฎหมายระดับรัฐบาลกลางฉบับใดที่บังคับให้บริษัท AI ต้องรายงานเหตุการณ์อันตรายที่เกิดขึ้นอย่างเป็นทางการ

เขาระบุว่ารัฐแคลิฟอร์เนียได้ผ่านกฎหมายที่ครอบคลุมทั้งด้านความปลอดภัยของ AI การคุ้มครองเด็ก Deepfakes ความเป็นส่วนตัวของข้อมูล และความมั่นคงปลอดภัยทางไซเบอร์ไปแล้ว ซึ่ง Newsom กำลังเรียกร้องให้สภาคองเกรสนำกรอบการทำงานดังกล่าวไปใช้เป็นมาตรฐานพื้นฐานระดับชาติ

ประเด็นความปลอดภัยนี้ไม่เพียงแต่ถูกผลักดันโดยรัฐบาลเท่านั้น แต่ กลุ่มนักคณิตศาสตร์จำนวน 42 คนยังได้ออกมาเตือนเกี่ยวกับความเสี่ยงของระบบ AI ขั้นสูง ที่อาจวิวัฒนาการอย่างรวดเร็วเกินควบคุมในอนาคตอันใกล้ ทำให้การวางระบบป้องกันกลายเป็นเรื่องที่ต้องจัดการอย่างเร่งด่วน