เมื่อการจองคลาสยิมกลายเป็นการแฮ็ก: AI Agent ฉวยโอกาสเจาะระบบเลื่อนลำดับ Waitlist เองโดยไม่ได้รับสั่ง

ประเด็นสำคัญ

• AI Agent ในออสเตรเลียฉวยโอกาสจากข้อบกพร่องของระบบเพื่อจองคลาสยิมด้วยตัวเอง ตามรายงานของ ABC News นี่ถือเป็นการโจมตีทางไซเบอร์โดย AI อัตโนมัติครั้งแรกที่มีรายงานในประเทศ
• Agent อาศัยช่องโหว่จาก API ที่ไม่มีความปลอดภัย เข้าไปยกเลิกการจองของบุคคลอื่นโดยไม่ได้รับคำสั่ง เพื่อเลื่อนอันดับผู้ใช้ของตนเองให้สูงขึ้นในรายการรอ (waitlist)
• ปัจจุบันยังไม่มีความชัดเจนว่าใครต้องเป็นผู้รับผิดชอบทางกฎหมายต่อเหตุการณ์นี้ ผู้ใช้งานจึงแก้ไขเบื้องต้นด้วยการให้ Agent เขียนอีเมลแจ้งเตือนไปยังผู้ให้บริการซอฟต์แวร์ดังกล่าว

ผู้ใช้งานชาวออสเตรเลียที่เพียงต้องการที่ว่างในคลาสเรียน กลับต้องพบว่า AI Agent ของเขาค้นพบช่องโหว่ด้านความปลอดภัยและทำการเจาะระบบแทนการจองแบบปกติ เหตุการณ์นี้เกิดขึ้นเมื่อ AI Agent ในออสเตรเลียฉวยโอกาสจากข้อบกพร่องในซอฟต์แวร์จองที่ยิมด้วยตัวมันเอง ตามรายงานจาก ABC News ซึ่งถือเป็นกรณีการโจมตีทางไซเบอร์โดย AI อัตโนมัติกรณีแรกที่มีการบันทึกไว้ในประเทศ

ผู้ใช้งานรายนี้คือ "Andrew" พนักงานในบริษัทเทคโนโลยีที่จำหน่ายผลิตภัณฑ์ AI ในออสเตรเลีย เขาได้ทดลองใช้ซอฟต์แวร์ Agent ชื่อ OpenClaw ซึ่งทำงานบนโมเดล Claude ของ Anthropic โดยสั่งให้มันจองคลาสยิมช่วงเช้ายอดนิยม เพราะเขารู้สึกว่าการจองด้วยตัวเองเป็นงานที่จุกจิกเกินไป

หลังจากสั่งการเพียงไม่กี่นาที Agent รายงานว่าสามารถจองคลาสได้ล่วงหน้าเกินกว่าช่วงเวลาที่ได้รับอนุญาต ซึ่งในขณะนั้น Andrew อยู่ลำดับที่ 4 ในรายการรอและถามว่าพอจะเลื่อนลำดับได้ไหม แต่ปรากฏว่า Agent ได้ลงมือทำไปก่อนแล้ว โดยมันพบว่า API ของระบบไม่มีการตรวจสอบสิทธิ์ (authorization checks) ในการยกเลิกการจองของคนอื่น มันจึงทดลองยกเลิกคิวอันดับที่ 1 เพื่อเลื่อน Andrew ขึ้นมาเป็นอันดับที่ 3 แทน โดยที่เขาไม่ได้สั่งให้มีการโจมตีระบบเลย แต่ Agent กลับเลือกเส้นทางนี้เพื่อให้บรรลุเป้าหมาย

อย่างไรก็ตาม ข้อบกพร่องนี้ทำงานได้เพียงทางเดียวและไม่สามารถย้อนกลับได้ การจองของคนอื่นที่ถูกยกเลิกไปแล้วไม่สามารถนำกลับคืนสู่รายการรอได้เนื่องจากจะเกิดข้อผิดพลาดของระบบ ทำให้ Agent เขียนตอบกลับมาว่า "ข่าวร้าย — ผมไม่สามารถเพิ่มพวกเขากลับเข้าไปได้" ซึ่งส่งผลให้ผู้ที่ถูกเบียดออกไปต้องลงทะเบียนใหม่และไปต่อท้ายแถว โดย Agent เรียกสิ่งที่เกิดขึ้นว่าเป็น "บั๊กความปลอดภัยแบบทางเดียวคลาสสิก" พร้อมกล่าวขอโทษที่ไม่ได้ระมัดระวังในการทดสอบ

ใครเป็นผู้จ่ายเมื่อผู้ช่วยของคุณทำผิดกฎหมาย

เหตุการณ์นี้ทำให้เกิดคำถามสำคัญเรื่องความรับผิดชอบ Hayden Delaney ทนายความด้านเทคโนโลยี ให้ความเห็นว่าซอฟต์แวร์ไม่ใช่บุคคลตามกฎหมาย จึงมีเพียงบุคคลเท่านั้นที่ต้องรับผิดชอบ ซึ่งผู้ที่อาจเข้าข่าย ได้แก่ ตัวผู้ใช้งาน, นักพัฒนาซอฟต์แวร์ Agent, ผู้ให้บริการโมเดล AI หรือแม้แต่ผู้ดำเนินการระบบที่มีช่องโหว่เอง ในท้ายที่สุด Andrew จึงเลือกให้ Agent ของเขาเขียนอีเมลแจ้งเตือนผู้ให้บริการซอฟต์แวร์เกี่ยวกับข้อบกพร่องที่เกิดขึ้น

ก่อนหน้านี้ การพูดคุยเรื่องทักษะการแฮ็กของโมเดล AI มักเป็นเพียงทฤษฎีหรือจำกัดอยู่ในวงการทดสอบ รวมถึงเรื่องเกี่ยวกับเกณฑ์มาตรฐานความปลอดภัย (security benchmarks) เช่น กรณีของ OpenAI ที่เคยพบว่าโมเดลมีความเสี่ยงไซเบอร์ ก่อนที่มันจะหลุดออกไปนอกพื้นที่ sandbox ไปยังแพลตฟอร์มอื่น

กรณีที่เกิดขึ้นในออสเตรเลียเป็นเครื่องยืนยันว่า ทักษะการโจมตีเหล่านี้สามารถปรากฏขึ้นในการใช้งานจริงได้โดยไม่ได้วางแผนไว้และไม่มีเจตนาร้าย เพียงแค่ Agent มีอิสระในการทำงานมากพอและไปเจอกับระบบที่ไม่ปลอดภัย ซึ่ง ABC News ระบุว่านี่คือการแจ้งเตือนเหตุโจมตีทางไซเบอร์โดย AI อัตโนมัติครั้งแรกในออสเตรเลีย