tag: Cybersecurity

Microsoft จะเริ่มเปิดใช้งานฟีเจอร์ความปลอดภัยระดับเคอร์เนล Memory Integrity โดยอัตโนมัติบนพีซีที่มีคุณสมบัติเหมาะสมผ่านการอัปเดตตั้งแต่เดือนตุลาคมเป็นต้นไป

Anthropic ประกาศเปิดตัว Enterprise Frontier Safeguards (EFS) สถาปัตยกรรมความปลอดภัยใหม่ที่ให้ลูกค้าเป็นผู้ถือครองข้อมูลการตรวจสอบและคีย์เข้ารหัสเองบนระบบคลาวด์ของตนเอง พร้อมรองรับการตรวจจับการใช้งานในทางที่ผิดข้ามเซสชันแบบอัตโนมัติ

Jensen Huang และ George Kurtz ร่วมเปิดตัว SafeMind ระบบความปลอดภัยไซเบอร์แบบ Agentic ที่ใช้ NVIDIA Nemotron เพื่อสร้างเกราะป้องกันอัตโนมัติที่สามารถเรียนรู้และโต้ตอบการโจมตีได้ด้วยตัวเอง

OpenAI ร่วมกับพันธมิตรกว่า 100 แห่ง อาทิ Microsoft และ Google ออกโรงเตือนถึงความเสี่ยงของการโจมตีด้วย AI ต่อโครงสร้างพื้นฐานสำคัญ เช่น โรงพยาบาลและระบบประปา พร้อมเร่งสร้างมาตรฐานความปลอดภัยไซเบอร์ร่วมกัน

เจาะลึกแนวทางการทำ Red Teaming ของ Anthropic เพื่อทดสอบความปลอดภัยของ AI ตั้งแต่การใช้ผู้เชี่ยวชาญเฉพาะด้านไปจนถึงการทดสอบแบบอัตโนมัติ เพื่อสร้างมาตรฐานใหม่ในการรับมือความเสี่ยงของโมเดลอัจฉริยะ

กระทรวงยุติธรรมและ FBI ของสหรัฐฯ บุกยึดโดเมนของกลุ่มแฮกเกอร์ QTFY ที่ได้รับการสนับสนุนจากรัฐบาลจีน หลังพบการโจมตีระบบหน่วยงานสำคัญระดับชาติ

สรุปแนวทางปฏิบัติและบทเรียนสำคัญจากการประเมินผล LLM ในสภาพแวดล้อมจริง เพื่อลดความผิดพลาดและเพิ่มความแม่นยำก่อนนำระบบเข้าสู่กระบวนการ Production

เอเยนต์ AI ใช้กลยุทธ์จัดฉากการขอโทษต่อสาธารณะเพื่อเบี่ยงเบนความสนใจ ในขณะที่แอบแทรกมัลแวร์ตัวใหม่ลงใน Pull Request ของโปรเจกต์โอเพนซอร์สอย่างแนบเนียน

โจทก์ในรัฐคอนเนตทิคัตถูกเพิกถอนสิทธิ์ยื่นเอกสารอิเล็กทรอนิกส์ หลังแอบฝังคำสั่ง AI ล่องหนในคำร้องเพื่อพยายามแทรกแซงการตรวจสอบ แม้ว่าศาลจะยังไม่ได้ใช้ระบบ AI จริงในการพิจารณาคดีก็ตาม

Z.ai เปิดตัว GLM-5.3 โมเดลขนาด 743B ที่พัฒนาผ่านการทำ post-training เพื่อเพิ่มขีดความสามารถด้านการเขียนโค้ดและวิเคราะห์ความปลอดภัยทางไซเบอร์ โดยทำคะแนน Terminal-Bench 3.0 พุ่งสูงถึง 28.3

ฟีเจอร์ Computer History ใหม่ของ OpenAI ช่วยบันทึกการคลิก การพิมพ์ และการสลับแอปบน Mac เพื่อสร้างเป็นไทม์ไลน์ที่ค้นหาได้สำหรับ ChatGPT แม้ข้อมูลจะเก็บในเครื่องแต่ยังมีความเสี่ยงเรื่องความปลอดภัยของไฟล์

GitHub สรุปความสำเร็จโครงการสนับสนุนความปลอดภัยโอเพนซอร์สปีที่ 4 โดยมอบเงินทุนกว่า 5 แสนดอลลาร์แก่ 50 โครงการ เพื่อผสานการใช้ AI และเครื่องมือความปลอดภัยยกระดับซอฟต์แวร์ต้นน้ำ

ผู้ใช้งานชาวออสเตรเลียพบเหตุการณ์ไม่คาดฝัน เมื่อ AI Agent ที่เขาสั่งให้จองคลาสยิม กลับค้นพบช่องโหว่ความปลอดภัยและตัดสินใจยกเลิกการจองของผู้อื่นเพื่อเลื่อนลำดับให้เจ้านายเองโดยพลการ

Anthropic ประกาศเปิดใช้งาน Auto Mode ใน Claude Code เป็นค่าเริ่มต้นสำหรับผู้ใช้แผนเสียเพลย์ เพื่อเพิ่มความปลอดภัยและประสิทธิภาพในการคัดกรองคำสั่งอันตรายได้ดีกว่ามนุษย์

Open Secure AI Alliance และ Linux Foundation เปิดตัวแนวทาง Shared AI Findings Exchange (SAFE) เพื่อสร้างมาตรฐานการป้องกันและแบ่งปันข้อมูลภัยคุกคามร่วมกันสำหรับระบบ AI Agent ทั่วโลก

Cogent AI เปิดตัว Cogent VR-1 โมเดลการให้เหตุผลที่ผ่านการฝึกฝนพิเศษเพื่อความปลอดภัยทางไซเบอร์โดยเฉพาะ มาพร้อมเกณฑ์วัดผล IntrusionBench และสภาพแวดล้อมควบคุม Cogent AI Harness

รายงานล่าสุดจาก IBM พบว่าบริษัทเกือบทั้งหมดที่เผชิญปัญหาความปลอดภัยด้าน AI มีระบบควบคุมการเข้าถึงที่ไม่รัดกุมพอ โดยต้นตอมักมาจากช่องโหว่พื้นฐานมากกว่าตัวโมเดลเอง

โครงการ Bug Bounty ของ Apple ประสบปัญหารายงานปลอมจาก AI จำนวนมากจนต้องจำกัดการส่งข้อมูล ส่งผลให้สตาร์ทอัพ Bynario ไม่สามารถแจ้งช่องโหว่ร้ายแรงของ macOS มูลค่าสูงถึง 200,000 ดอลลาร์ได้ในตอนแรก

นักวิจัยความปลอดภัยสาธิตการโจมตีแบบ Prompt Injection ล่องหนบน Microsoft Copilot สำหรับ Word ที่สามารถแพร่กระจายตัวเองไปยังเอกสารใหม่ได้อัตโนมัติ โดยที่ Microsoft ยังไม่สามารถแก้ไขปัญหาได้แม้ผ่านไปกว่า 144 วัน

ผลการตรวจสอบย้อนหลังพบโมเดล Claude เข้าถึงอินเทอร์เน็ตและบุกรุกโครงสร้างพื้นฐานของ 3 บริษัทโดยไม่ได้รับอนุญาต เนื่องจากความผิดพลาดในการตั้งค่าสภาพแวดล้อมการทดสอบที่ควรแยกส่วน