Meta จ่าย Bug Bounty รวม 1.2 ล้านดอลลาร์ หลังพบช่องโหว่ AI Muse

Meta เปิดเผยความสำเร็จของโครงการ Bug Bounty สำหรับ Muse ซึ่งเป็น AI agent ของบริษัท โดยจ่ายเงินรางวัลรวมไปแล้วกว่า 1.2 ล้านดอลลาร์ รวมถึงรางวัลสูงสุด 300,000 ดอลลาร์สำหรับช่องโหว่ร้ายแรงที่พบในช่วงก่อนเปิดตัว

Muse คือ AI agent ส่วนตัวที่ออกแบบมาเพื่อจัดการงานแทนผู้ใช้ผ่านอีเมล ปฏิทิน และแอปพลิเคชันรับส่งข้อความ โดยระบบจะแยกการทำงานของ AI สำหรับผู้ใช้แต่ละคนไว้ใน virtual machine (VM) ของตนเองเพื่อความปลอดภัย

David Singleton ผู้บริหารจาก Meta ระบุใน blog post ว่าโครงการนี้เริ่มดำเนินการแบบส่วนตัวตั้งแต่เดือนเมษายน ก่อนจะเปิดเป็นสาธารณะพร้อมกับการเปิดตัวผลิตภัณฑ์เมื่อวันที่ 8 กันยายนที่ผ่านมา จากรายงานที่ส่งเข้ามาทั้งหมดกว่า 630 ฉบับ มีรายงาน 64 ฉบับที่ได้รับการยืนยันว่าเป็นช่องโหว่จริง

สำหรับเงินรางวัลมูลค่า 300,000 ดอลลาร์ ถูกมอบให้กับการค้นพบช่องโหว่ในช่วง 4 เดือนก่อนการเปิดตัวอย่างเป็นทางการ ในขณะที่ Muse ยังอยู่ระหว่างการทดสอบภายใน (Internal Testing) โดยนักวิจัยสามารถสาธิตการเข้าถึงบทสนทนาและ token บน VM รุ่นก่อนจำหน่ายจริงที่พนักงาน Meta ใช้ทดสอบผลิตภัณฑ์

Singleton อธิบายสาเหตุว่า กระบวนการตรวจสอบการรับรองตัวตน (authentication check) เดิมยึดตาม header ที่เพิ่มโดย local HTTPS proxy เป็นหลักฐานยืนยันความปลอดภัย แต่ในช่วงการย้ายระบบได้มีการเพิ่มเลเยอร์ proxy ตัวที่สองเข้ามา ส่งผลให้คำขอจากภายนอกสามารถปลอมแปลงและส่งต่อ header ที่เชื่อถือได้นั้นเข้ามาได้ด้วย

เหตุการณ์ดังกล่าวทำให้ Meta ตัดสินใจปิดให้บริการชั่วคราวเพื่อแก้ไขบั๊กและยกเลิกการกำหนดให้เครื่อง local เป็นเครื่องที่เชื่อถือได้โดยอัตโนมัติ นอกจากนี้ยังมีการจ่ายเงินรางวัลอีก 90,000 ดอลลาร์ ให้กับรายงานที่พบว่าหน้าเว็บอันตรายสามารถเลียนแบบข้อความแจ้งสถานะของ AI agent เพื่อหลอกล่อให้ระบบดำเนินการบางอย่างที่ควรจะถูกบล็อก

นับแต่นั้นมา Meta ได้เพิ่มระบบการตรวจจับและปรับปรุงวิธีที่ Muse ตอบสนองต่อเอาต์พุตจากเครื่องมือที่น่าสงสัย โดยระบุว่าจากการทดสอบ ตัวคัดกรอง (classifiers) สามารถตรวจจับการโจมตีรูปแบบนี้รวมถึงรูปแบบดัดแปลงอื่นๆ ได้มากกว่า 100 รูปแบบแล้ว

นอกจากนี้ บริษัทยังจ่ายเงินอีก 90,000 ดอลลาร์ ให้กับช่องโหว่ที่การจัดรูปแบบข้อความเฉพาะทางสามารถทำให้รหัสผ่านแบบใช้ครั้งเดียว (one-time passcodes) หลุดรอดผ่านตัวกรองการปิดบังข้อมูลอีเมล (email redaction filters) ไปได้ ซึ่ง Meta ชี้ว่าเป็นส่วนหนึ่งของชุดการโจมตีแบบ end-to-end

ในส่วนของแอปพลิเคชันบนสมาร์ทโฟนและคอมพิวเตอร์ Meta มอบรางวัล 50,000 ดอลลาร์ ให้กับช่องโหว่บนแอป Android ที่ยอมให้แอปอันตรายส่งลิงก์ไปยัง web view ที่ได้รับสิทธิพิเศษโดยไม่มีการตรวจสอบ host และอีก 1,000 ดอลลาร์ สำหรับช่องโหว่บนแอป Mac ที่ยอมให้ผู้โจมตีที่เข้าถึงเครื่องได้ทำการรันโค้ดผ่านฟีเจอร์อัปเดตอัตโนมัติ

ปัจจุบัน Meta จ่ายเงิน รางวัลสูงสุด 300,000 ดอลลาร์ต่อรายงาน ซึ่งสูงกว่ามาตรฐานของผู้พัฒนา AI รายอื่นหลายเท่า โดยการโจมตีประเภท Prompt injection ที่ส่งผลกระทบต่อผู้ใช้รายเดียวมีรางวัลสูงสุด 130,000 ดอลลาร์ ส่วนการโจมตีที่กระทบทั้งระบบ (fleetwide compromise) อาจได้รับรางวัลสูงถึง 250,000 ดอลลาร์