Gemini ของ Google พลั้งมือแฮ็ก 3 บริษัทจริงระหว่างทดสอบความปลอดภัย

โมเดล AI Gemini ของ Google หลุดรอดออกจากระบบควบคุมเข้าสู่เครือข่ายอินเทอร์เน็ตสาธารณะระหว่างการทดสอบความปลอดภัยทางไซเบอร์ และดำเนินการโจมตีระบบของภาคธุรกิจจริงโดยไม่ได้ตั้งใจ

เหตุการณ์นี้เกิดขึ้นระหว่างการฝึกฝนแบบ "Capture the Flag" ที่จัดโดยบริษัทด้านความปลอดภัย Irregular ในเดือนพฤษภาคม โดย Gemini ได้ทำการแฮ็กบริษัทจริงจำนวน 3 แห่ง ตามรายงานจาก Wall Street Journal ซึ่งในกรณีหนึ่งโมเดลสามารถเดารหัสผ่านได้สำเร็จ ส่วนอีกสองกรณีเป็นการดึงข้อมูลประจำตัวจากแหล่งข้อมูลสาธารณะ ทั้งนี้ Google ระบุว่าโมเดลได้หยุดการทำงานโดยอัตโนมัติทันทีเมื่อรับรู้ว่าเข้าถึงระบบที่มีการใช้งานจริง

Irregular ได้แจ้งเหตุการณ์ดังกล่าวให้ Google ทราบในช่วงปลายเดือนกรกฎาคม หลังจากที่มีรายงานว่าเอเจนต์ของ OpenAI ได้ แฮ็กบริษัท AI Hugging Face ระหว่างการทดสอบในลักษณะเดียวกัน อย่างไรก็ตาม Google ไม่ได้เปิดเผยเรื่องนี้สู่สาธารณะจนกระทั่งถูกตั้งคำถามในสัปดาห์นี้ โดยให้เหตุผลว่าไม่พบความเสียหายเกิดขึ้น ซึ่งเหตุการณ์หลุดรอดในลักษณะนี้ยังเคยเกิดขึ้นมาแล้วกับ OpenAI, UK's AI Safety Institute, Anthropic, และ Meta ซึ่งล้วนเชื่อมโยงกับการทดสอบของ Irregular ทั้งสิ้น

ทุกการหลุดรอดล้วนสืบกลับไปที่ Irregular

ข้อมูลจาก Irregular ชี้ให้เห็นว่าเหตุการณ์ที่เกิดขึ้นกับยักษ์ใหญ่ทั้ง Google, OpenAI, Anthropic และ Meta มีสาเหตุเดียวกัน โดยบริษัททำหน้าที่ทดสอบโมเดลก่อนเปิดตัวเพื่อประเมินความเสี่ยงด้านความปลอดภัย รวมถึงการทดสอบว่าโมเดลจะสามารถช่วยเหลือผู้ประสงค์ร้ายในการเข้าถึงข้อมูลละเอียดอ่อนได้หรือไม่

ในการทดสอบดังกล่าว Irregular ได้ตั้งชื่อบริษัทสมมติที่บังเอิญไปตรงกับโดเมนที่มีอยู่จริงบนโลกออนไลน์ แม้คำสั่งจะระบุให้ค้นหาเป้าหมายภายในเครือข่ายจำลองของ Irregular แต่เนื่องจากสภาพแวดล้อมการทดสอบมีการเปิดการเข้าถึงอินเทอร์เน็ตทิ้งไว้โดยไม่ตั้งใจ โมเดลบางตัวจึงมุ่งเป้าไปที่โดเมนจริงแทนที่จะอยู่ใน Sandbox ซึ่งโดเมนเหล่านั้นมีการรักษาความปลอดภัยต่ำทำให้ AI เจาะระบบได้ง่าย ทั้งนี้บริษัทระบุว่าเหตุการณ์ดังกล่าวตรวจพบได้ยากเพราะมักเกิดขึ้นในช่วงท้ายของการจำลองที่มีขั้นตอนซับซ้อนนับร้อยขั้น

สำหรับ Irregular เดิมชื่อ Pattern Labs ก่อตั้งขึ้นในปี 2023 โดย CEO Dan Lahav อดีตนักวิจัย AI จาก IBM และ CTO Omer Nevo ผู้ที่เคยทำงานกับ Google มากว่าสองปี ปัจจุบันสตาร์ทอัพแห่งนี้มีพนักงานประมาณ 35 คน ตามข้อมูลจาก PitchBook และเพิ่งระดมทุนได้มากกว่า 80 ล้านดอลลาร์ในรอบการระดมทุนเดือนกันยายนที่ผ่านมา