สตาร์ทอัพใช้ AI agents เจาะระบบภายใน Anthropic ผ่านซอฟต์แวร์ภายนอก

ประเด็นสำคัญ

Cathedral สตาร์ทอัพด้านความมั่นคงปลอดภัยไซเบอร์ ประสบความสำเร็จในการใช้ AI agents บุกรุกเข้าสู่ระบบภายในของ Anthropic ผ่านซอฟต์แวร์ธุรกิจภายนอก (third-party) ซึ่งเป็นส่วนหนึ่งของโครงการ Bug Bounty ของผู้พัฒนา Claude เอง

Cathedral ระบุว่า AI agents สามารถค้นหาข้อความใน Slack ข้อมูลเงินเดือน และบันทึกภายในอื่นๆ ได้ภายในเวลาเพียงไม่กี่ชั่วโมง ขณะที่ Anthropic ยืนยันว่าความพยายามดังกล่าวใช้เวลาหลายวัน พร้อมย้ำว่า source code และ model weights ไม่เคยถูกเปิดเผย เหตุการณ์นี้สะท้อนถึงภัยคุกคามที่เพิ่มขึ้น เนื่องจากปัจจุบัน AI agents สามารถตรวจสอบเครือข่ายองค์กรได้ตลอด 24 ชั่วโมงด้วยต้นทุนที่ต่ำมาก จนแม้แต่ห้องปฏิบัติการ AI ชั้นนำก็อาจไม่ปลอดภัย

Cathedral รายงานการเข้าถึงข้อมูลภายในและระบบรับส่งข้อความในร่างรายงานที่ตรวจสอบโดย The Washington Post สตาร์ทอัพรายนี้ก่อตั้งโดยอดีตพนักงานของ DOGE ซึ่งเป็นหน่วยงานด้านประสิทธิภาพของรัฐบาลสหรัฐฯ โดยจำหน่ายเครื่องมือรักษาความปลอดภัยที่ขับเคลื่อนด้วย AI ให้กับหน่วยงานรัฐบาลและภาคธุรกิจ

นักวิจัยของ Cathedral เข้าถึงระบบผ่านโปรแกรมจัดการและโปรแกรมการขายภายนอก โดย AI agents ที่รันโมเดลขั้นสูงสามารถพบเส้นทางเข้าถึงบันทึกการประชุม ข้อมูลเงินเดือน การประกาศรับสมัครงาน และข้อความใน Slack ได้ภายในเวลาไม่ถึงสิบสองชั่วโมง

ทางด้าน Anthropic ยืนยันว่านักวิจัยเข้าถึงระบบการขาย ทรัพยากรบุคคล และไอทีในวงจำกัด ซึ่งรวมถึงข้อมูลติดต่อลูกค้าและพันธมิตรบางรายพร้อมข้อมูลบัญชีผู้ใช้พื้นฐาน โดยบริษัทได้ปิดจุดเข้าถึงที่ได้รับผลกระทบในวันเดียวกับที่พบการบุกรุก พร้อมระงับการใช้งานโปรแกรมภายนอกจนกว่าจะแก้ไขปัญหาเสร็จสิ้น และได้แจ้งเรื่องต่อเจ้าหน้าที่รัฐบาลกลางสหรัฐฯ แล้ว

Anthropic และ Cathedral เห็นต่างกันในเรื่องระยะเวลาและขอบเขตการบุกรุก

Cathedral ระบุว่าเหตุการณ์นี้ใช้เวลาไม่ถึงสิบสองชั่วโมง แต่ Anthropic แย้งว่าความพยายามโจมตีลากยาวไปหลายวัน โดย ตามที่ Logan Graham สมาชิกทีม red team ของ Anthropic ระบุ สตาร์ทอัพรายนี้เปลี่ยนเป้าหมายไปยังซอฟต์แวร์ภายนอกหลังจากใช้เวลาตรวจสอบระบบหลักของ Anthropic อยู่ระยะหนึ่ง ซึ่ง Cathedral พบช่องโหว่สองจุดแต่รายงานเพียงจุดเดียว ขณะที่ Anthropic อ้างว่าค้นพบและแก้ไขจุดที่สองได้ด้วยตัวเอง

นอกจากนี้ Anthropic ยังกล่าวหา Cathedral ว่าละเมิดกฎของโครงการ Bug Bounty เนื่องจากเปิดเผยข้อมูลไม่ครบถ้วน โดย Graham เสริมว่าการตั้งเป้าไปที่ผู้ให้บริการภายนอกและการดึงข้อมูลนั้นเกินกว่าข้อกำหนด safe harbor ของโครงการ แม้จะยินดีกับการค้นพบช่องโหว่ก็ตาม แต่ทาง Cathedral ยังคงยืนยันว่าได้ปฏิบัติตามแนวทางการวิจัยด้านความปลอดภัยมาตรฐาน

ประเด็นจำนวนข้อมูลที่ถูกเข้าถึงจริงยังคงเป็นข้อถกเถียง โดย Will Depue อดีตพนักงาน OpenAI ได้อ้างว่า Anthropic กำลังพยายามลดระดับความรุนแรงของเหตุการณ์ เนื่องจากแหล่งข่าวที่น่าเชื่อถือระบุว่า Cathedral ได้รับสิทธิ์ระดับ admin เต็มรูปแบบใน Slack workspace จนสามารถอ่านได้ทุกข้อความและล็อกอินเข้าบัญชีใดก็ได้

Depue ให้ข้อมูลเพิ่มเติมว่า ทั้ง Anthropic และ OpenAI ต่างเก็บความลับงานวิจัยไว้ใน Slack โดยมี admin API keys กระจัดกระจายอยู่ทั่วระบบ ซึ่งสอดคล้องกับความเห็นของ Jacob Coxon อดีตพนักงาน Anthropic ที่เคยวิจารณ์การรันงานวิจัย AI อันตรายบน ซอฟต์แวร์สำนักงานอย่าง Slack มาก่อนหน้านี้

แม้ Graham จะ โต้กลับ ว่าข้อมูลของ Depue คลาดเคลื่อน แต่เขาก็ยอมรับในข้อกังวลหลักว่า ปัจจุบันอุตสาหกรรมจำเป็นต้องคิดค้นระบบความปลอดภัยใหม่ในทุกๆ ปี เนื่องจากความเร็วของการแข่งขันด้าน AI ทำให้ผู้บริหารให้ความสำคัญกับความเร็วมากกว่าความปลอดภัย

Alex Stamos หัวหน้าเจ้าหน้าที่ความปลอดภัยของ Cognition บอกกับ Washington Post ว่าเขาถือว่าการค้นพบนี้ มีความสำคัญอย่างยิ่ง โดยชี้ให้เห็นว่าแอปภายนอกที่เชื่อมต่อกันเป็นปัญหาใหญ่ทั่วทั้งอุตสาหกรรม และ Anthropic ควรทำหน้าที่ได้ดีกว่านี้ในการรักษาความปลอดภัยบริการภายนอก

AI agents กำลังเปลี่ยนแปลงความมั่นคงปลอดภัยไซเบอร์

หลังจากมี คำเตือนเกี่ยวกับภัยไซเบอร์จาก AI และ เหตุการณ์ความปลอดภัย มานานหลายเดือน ครั้งนี้ Anthropic กลับกลายเป็นฝ่ายถูกกระทำเสียเอง การบุกรุกครั้งนี้แสดงให้เห็นว่า AI agents กำลังเปลี่ยนโฉมหน้าการโจมตีไซเบอร์อย่างรวดเร็ว และน่ากังวลยิ่งขึ้นเมื่อบริษัทที่มีความพร้อมด้านการป้องกันสูงสุดอย่าง Anthropic ยังถูกเจาะระบบได้

Graham เตือนว่ากลุ่มผู้โจมตีมีการรัน AI agents ตลอดเวลาเพื่อค้นหาจุดอ่อนจากการพึ่งพาภายนอก แม้แต่โมเดลรุ่นเก่าก็มีความสามารถเพียงพอสำหรับการโจมตีเหล่านี้ เขาเสนอว่าทางออกคือการทำ penetration testing ภายในอย่างต่อเนื่อง และ การสร้างซอฟต์แวร์ใหม่ด้วย formal verification เพื่อเพิ่มความปลอดภัย

อย่างไรก็ตาม สิ่งที่ Graham ยังไม่ได้ชี้แจงคือ Cathedral สามารถเจาะเข้าไปได้ลึกถึงระดับนั้นได้อย่างไร ทั้งที่ Anthropic มีเครื่องมือ AI ที่ทรงพลังที่สุดในโลกสำหรับใช้ในการป้องกันภัยไซเบอร์อยู่กับมือ