ผลวิจัยเผยกลุ่มก่อการร้ายใช้ AI Chatbot ชื่อดัง วางแผนโจมตีและผลิตอาวุธทั่วโลก

การศึกษาจากมหาวิทยาลัย Cambridge เปิดเผยว่ากลุ่มก่อการร้าย Boko Haram ได้หันมาใช้งาน AI Chatbot รายใหญ่ ทั้ง ChatGPT, Claude และ Gemini เพื่อใช้เป็นเครื่องมือในการวางแผนโจมตี สร้างวัตถุระเบิด รวมถึงการบำรุงรักษาอาวุธยุทโธปกรณ์

ยิ่งไปกว่านั้น รายงานยังระบุว่าเครือข่ายปฏิบัติการของ ISIS ได้เริ่มจัดการฝึกอบรมให้แก่ระดับผู้บัญชาการมาตั้งแต่ปี 2023 เพื่อสอนเทคนิคการหลบเลี่ยงตัวกรองด้านความปลอดภัย (Safety Filters) ของระบบ AI ซึ่งผลการศึกษาชี้ชัดว่าระบบป้องกันเหล่านี้ล้มเหลวซ้ำแล้วซ้ำเล่าในการสกัดกั้นการใช้งานที่ผิดวัตถุประสงค์

สะท้อนให้เห็นว่ามาตรการกำกับดูแลตนเองโดยสมัครใจของบริษัทผู้พัฒนา AI ในปัจจุบันยังไม่มีประสิทธิภาพเพียงพอที่จะรับมือกับภัยคุกคามนี้ได้