ประธาน EU เตือน AI Agent หลุดการควบคุม เป็นเพียงจุดเริ่มต้นความเสี่ยง

Ursula von der Leyen ประธานคณะกรรมาธิการยุโรป ต้องการเสนอความเชี่ยวชาญของสหภาพยุโรปให้แก่ห้องปฏิบัติการ AI ยักษ์ใหญ่ในสหรัฐฯ เพื่อช่วยชะลอและควบคุมความเร็วในการพัฒนา AI ในการแถลงนโยบาย State of the Union 2026 address เธอระบุว่า AI คือรากฐานสำคัญของเศรษฐกิจและความมั่นคงแห่งชาติ แต่เน้นย้ำว่าความเสี่ยงที่ตามมาจำเป็นต้องได้รับการควบคุมอย่างเข้มงวด

Von der Leyen ได้ยกตัวอย่างเหตุการณ์สำคัญที่สะท้อนถึงทิศทางตลาดในปัจจุบัน โดยอ้างถึง เหตุการณ์ Hugging Face และเตือนว่าโมเดลรุ่นใหม่ที่กำลังพัฒนานี้จะช่วยให้เกิดการแฮ็กในระดับที่เกินกว่าจะจินตนาการได้ ซึ่ง AI agents ที่สามารถ "หลุดพ้นจากสภาพแวดล้อมการควบคุม" เป็นเพียงตัวอย่างเบื้องต้นของภัยคุกคามที่จะเกิดขึ้น

นอกจากนี้ เธอยังชี้ให้เห็นว่า อันตรายของโมเดลที่พัฒนาตัวเองได้ กำลังทวีความชัดเจนมากขึ้นเรื่อยๆ โดยเธอกล่าวว่า "หากผู้ที่พัฒนาเทคโนโลยีนี้ยังมองเห็นความเสี่ยงที่ชัดเจน เราเองก็ควรตระหนักถึงเรื่องนี้ด้วยเช่นกัน"

สำหรับการดำเนินงานในอนาคต Von der Leyen วางแผนที่จะร่วมมือกับแคนาดา สหราชอาณาจักร และพันธมิตรอื่นๆ เพื่อจัดทำระบบประเมิน ตรวจสอบ และรักษาความปลอดภัยของ AI พร้อมเตรียมเชิญห้องปฏิบัติการ AI ชั้นนำมาร่วมหารือ โดยเธอยืนยันว่า AI Act จะเป็นกลไกสำคัญในการวางขอบเขตการป้องกันความเสี่ยงระดับสากล

อย่างไรก็ตาม ความท้าทายสำคัญคือปัจจุบัน มีรายงานว่าสหภาพยุโรปยังไม่สามารถเข้าถึงได้อย่างน่าเชื่อถือ ต่อโมเดลด้านความปลอดภัยทางไซเบอร์ที่ล้ำสมัยที่สุดจากห้องปฏิบัติการยักษ์ใหญ่เหล่านั้น ซึ่งเป็นอุปสรรคต่อการกำกับดูแลให้มีประสิทธิภาพ