ถอดบทเรียน 1 ปี Anthropic: เมื่อ AI เปลี่ยนโฉมหน้าภัยคุกคามไซเบอร์สู่ระบบอัตโนมัติเต็มรูปแบบ

สมัครรับจดหมายข่าว Frontier Red Team

รับข้อมูลอัปเดตเกี่ยวกับงานวิจัยและผลการค้นพบล่าสุดด้าน red-teaming ของเรา

Announcements Policy Frontier Red Team

Jun 3, 2026

ในขณะที่ AI กำลังเปลี่ยนแปลงลักษณะและวิธีการเบื้องหลังการโจมตีทางไซเบอร์ คำถามสำคัญคือเทคนิคและเฟรมเวิร์กที่ชุมชนความปลอดภัยใช้งานอยู่ในปัจจุบันยังสามารถรับมือได้ดีเพียงใด?

ในรายงานฉบับใหม่นี้ เรามุ่งหาคำตอบผ่านการตรวจสอบบัญชี 832 บัญชีที่ถูกแบนเนื่องจากกิจกรรมอันตรายระหว่างเดือนมีนาคม 2025 ถึงมีนาคม 2026 โดยนำข้อมูลมาจับคู่กับ MITRE ATT&CK ซึ่งเป็นฐานข้อมูลมาตรฐานระดับสากล ผลลัพธ์บางส่วนได้รับการเผยแพร่ใน 2026 Data Breach Investigations Report (DBIR) ของ Verizon และเรากำลังนำข้อมูลเชิงลึกมาแบ่งปันเพิ่มเติมที่นี่ ซึ่งกรณีศึกษาทั้ง 832 เคสถือเป็นตัวแทนที่มีข้อมูลละเอียดพอสำหรับการประเมินเทคนิคของผู้โจมตีอย่างถี่ถ้วน

เราสามารถสรุปประเด็นหลักได้สามประการจากการวิเคราะห์ครั้งนี้:

• ผู้ไม่หวังดีใช้ AI ในขั้นตอนหลังๆ ของการโจมตีที่มีความซับซ้อนสูง ทำให้พวกเขามีอันตรายมากขึ้น
• การโจมตีมีความเป็นอัตโนมัติสูงขึ้น จนวิธีการแยกแยะความเสี่ยงแบบเดิมเริ่มไม่ได้ผล
• เฟรมเวิร์ก MITRE ATT&CK ยังไม่ครอบคลุมเครื่องมือและกิจกรรมใหม่ๆ ที่เกิดจาก AI ได้ครบถ้วน

คุณสามารถอ่านสรุปแต่ละประเด็นได้ด้านล่าง หรืออ่านการวิเคราะห์ฉบับเต็มได้ที่ Frontier Red Team blog

จากข้อมูลพบว่ากิจกรรมที่ใช้ AI มากที่สุดคือการเตรียมการโจมตี เช่น การเขียนมัลแวร์ (คิดเป็น 67.3% หรือ 560 จาก 832 บัญชี) ขณะที่ผู้โจมตีบางส่วนเริ่มใช้ AI ในขั้นตอนที่ยากขึ้น เช่น การนำทางลึกเข้าไปในเครือข่ายที่ถูกเจาะระบบ (lateral movement) ซึ่งพบประมาณ 6.5%

หลักฐานชี้ชัดว่า AI ช่วยเพิ่มระดับภัยคุกคามได้อย่างมีนัยสำคัญ โดยในช่วงหกเดือนแรกของการวิเคราะห์ มีผู้โจมตีเพียง 33% ที่ถูกจัดอยู่ในกลุ่มความเสี่ยงระดับปานกลางหรือสูง แต่ในช่วงหกเดือนหลัง สัดส่วนนี้พุ่งสูงถึง 56% หรือเพิ่มขึ้นประมาณ 1.7 เท่า

นอกจากนี้ พฤติกรรมการใช้ AI ยังเปลี่ยนจากการพยายามเข้าสู่ระบบในตอนแรก (initial access) ไปสู่กิจกรรมหลังจากเจาะเข้าระบบได้แล้ว เช่น การระบุบัญชีใช้งานภายในเครือข่าย (account discovery) ที่เพิ่มขึ้น 8.9% สวนทางกับการทำ phishing ที่ลดลง 8.6% สะท้อนว่าผู้โจมตีกำลังประยุกต์ใช้ AI ลึกเข้าไปในวงจรการโจมตีมากขึ้น และ AI ยังช่วยให้ผู้โจมตีที่มีทักษะน้อยสามารถดำเนินการทางเทคนิคขั้นสูง (post-compromise) แทนตัวเองได้

ในด้านการประเมินความเสี่ยง วิธีการเดิมๆ เช่น การดูจำนวนเทคนิคที่ใช้หรือเครื่องมือที่เลือกใช้นั้นเริ่มขาดความแม่นยำ เนื่องจากความสัมพันธ์ระหว่างทักษะของผู้คุกคามกับจำนวนเทคนิคเริ่มลดน้อยลง ผู้โจมตีที่มีทักษะต่ำสุดใช้เทคนิคเฉลี่ย 16 อย่าง ขณะที่ผู้มีทักษะสูงสุดใช้ 20 อย่าง ซึ่งต่างกันไม่มากนัก ไม่ว่าจะเป็นการใช้ Claude Code, API หรืออินเทอร์เฟซแชท ก็ไม่สามารถระบุระดับความเสี่ยงที่แท้จริงได้อีกต่อไป

สิ่งที่ช่วยแยกแยะผู้โจมตีความเสี่ยงสูงได้ดีกว่า คือการดูว่าพวกเขาเลือกใช้ AI ในจุดใด หากเน้นใช้ในขั้นตอนที่ต้องตัดสินใจแบบเรียลไทม์หรือต้องอาศัยการจัดการสูง เช่น privilege escalation จะถือว่าอันตรายมาก อย่างไรก็ตาม สัญญาณนี้ก็เริ่มเสื่อมประสิทธิภาพลง เพราะผู้โจมตีส่วนใหญ่มุ่งไปในทิศทางเดียวกัน ตัวแยกแยะที่ยั่งยืนกว่าจึงเป็นเรื่องของโครงสร้าง (scaffolding) หรือการออกแบบสถาปัตยกรรมที่ช่วยให้โมเดลทำงานต่อเนื่องได้โดยแทบไม่ต้องใช้มนุษย์ควบคุม

พฤติกรรมระดับสูงอย่างการประสานขั้นตอนการโจมตีแบบอัตโนมัติโดยไม่มีมนุษย์แทรกแซง (agentic orchestration) ยังไม่ถูกระบุในเฟรมเวิร์ก MITRE ATT&CK ตัวอย่างเช่น กรณีการจารกรรมทางไซเบอร์ที่เรา ขัดขวางได้ในเดือนพฤศจิกายน 2025 ที่ผู้ไม่หวังดีหลอกใช้ Claude Code เพื่อแทรกซึมเป้าหมายทั่วโลก หากประเมินตามมาตรฐาน ATT&CK เดิมจะพบว่ามีความเสี่ยงเพียงระดับปานกลาง แต่การให้คะแนนความเสี่ยงตามระบบใหม่ของเราพบว่ามีความอันตรายสูงสุดถึง 100 เต็ม

ในการโจมตีรูปแบบใหม่ โมเดลจะทำงานเป็นตัวแทนอัตโนมัติ (autonomous agent) ทั้งการรันคำสั่ง เจาะช่องโหว่ และตัดสินใจเชิงกลยุทธ์ ซึ่งเป็นสิ่งที่คาดว่าจะพบมากขึ้นในอนาคต ข้อมูลเหล่านี้ช่วยให้เราสร้างมาตรการป้องกันในโมเดลรุ่นล่าสุดเพื่อตรวจจับและบล็อกการพัฒนามัลแวร์หรือการขโมยข้อมูล รวมถึงกำลังหารือกับ MITRE เพื่อพัฒนาเฟรมเวิร์กให้ก้าวทันพฤติกรรมที่ใช้ AI

Frontier models กำลังเปลี่ยนสมดุลระหว่างผู้โจมตีและผู้ป้องกันอย่างรวดเร็ว เรามุ่งมั่นที่จะช่วยให้ฝ่ายป้องกันก้าวทันกลยุทธ์เหล่านี้ผ่านโครงการ Project Glasswing และการแบ่งปันข้อมูลความปลอดภัยอื่นๆ ต่อไป

ใน โพสต์บล็อก Red เราได้นำเสนอภาพจำลองเชิงโต้ตอบของเทคนิคที่ผู้โจมตีใช้ เพื่อช่วยให้ผู้ป้องกันก้าวล้ำหน้าภัยคุกคาม

เมื่อวันที่ 30 กรกฎาคม เราได้รับรายงานเหตุการณ์ที่โมเดล Claude เข้าถึงระบบคอมพิวเตอร์โดยไม่ได้รับอนุญาต ซึ่งเรากำลังวิเคราะห์เชิงลึกและเตรียมร่วมมือกับ METR เพื่อตรวจสอบอย่างเป็นอิสระ พร้อมกันนี้เราได้เปิดตัวตัวอย่างงานวิจัย Model Hardware Standard (MHS) เพื่อกำหนดมาตรฐานการใช้งาน AI agent กับอุปกรณ์ทางกายภาพอย่างปลอดภัยให้แก่ห้องปฏิบัติการวิจัยและผู้ผลิตกลุ่มแรก

รับข้อมูลอัปเดตเกี่ยวกับงานวิจัยและผลการค้นพบล่าสุดด้าน red-teaming ของเรา