tag: AI Security

Microsoft เปิดตัว Project Perception ระบบความปลอดภัยแบบเอเจนต์เพื่อรับมือกับความเสี่ยงจาก AI ภายในองค์กรที่อาจทำงานผิดพลาดหรือสมรู้ร่วมคิดกันโดยไม่ได้ตั้งใจ

Unsloth เปิดเผยมาตรการความปลอดภัยของ Unsloth Studio และ Desktop โดยใช้ระบบตรวจสอบ 4 จุด ตั้งแต่การสร้างลายนิ้วมือโค้ด การกักกันไฟล์อันตราย ไปจนถึงการรันเครื่องมือใน Sandbox เพื่อป้องกันภัยคุกคามจากการใช้งานโมเดล AI ในเครื่อง

รายงานความร่วมมือระหว่าง Google และผู้เชี่ยวชาญกว่า 50 ท่าน เพื่อวางรากฐานความปลอดภัยและความเป็นส่วนตัวให้แก่ AI Agent ผ่านทฤษฎี Contextual Integrity

John Kindervag ผู้บัญญัติแนวคิด Zero Trust เมื่อ 15 ปีก่อน ยืนยันผ่านหนังสือเล่มใหม่ว่าโมเดลนี้ยังคงเป็นหัวใจสำคัญในการรับมือภัยคุกคาม AI หากนำไปใช้งานอย่างถูกต้อง

OpenAI ตรวจพบและระงับแคมเปญ Adversarial Distillation ขนาดใหญ่ที่มุ่งเน้นการขโมยข้อมูลการใช้เหตุผล (Reasoning) ของโมเดลเพื่อนำไปพัฒนา AI อื่นโดยไม่ได้รับอนุญาต ซึ่งพบความเชื่อมโยงกับผู้เกี่ยวข้องของบริษัท Moonshot AI จากจีน

OpenAI ระงับบัญชีกว่า 15,000 บัญชีที่พยายามคัดลอกตรรกะการคิดที่ซ่อนอยู่ของโมเดล แต่นักวิจัยพบว่าการโจมตีดังกล่าวยังคงได้ผลบน Microsoft Azure แม้กับโมเดลรุ่นใหม่อย่าง GPT-6 Astra

แนวทางการรักษาความปลอดภัย AI Agent ในระดับแพลตฟอร์มด้วย Model Armor, Semantic Governance และ Anomaly Detection บน Gemini Enterprise Platform เพื่อรับมือกับการโจมตีเชิงพฤติกรรม

GitHub สรุปความสำเร็จโครงการสนับสนุนความปลอดภัยโอเพนซอร์สปีที่ 4 โดยมอบเงินทุนกว่า 5 แสนดอลลาร์แก่ 50 โครงการ เพื่อผสานการใช้ AI และเครื่องมือความปลอดภัยยกระดับซอฟต์แวร์ต้นน้ำ

รายงานล่าสุดจาก IBM พบว่าบริษัทเกือบทั้งหมดที่เผชิญปัญหาความปลอดภัยด้าน AI มีระบบควบคุมการเข้าถึงที่ไม่รัดกุมพอ โดยต้นตอมักมาจากช่องโหว่พื้นฐานมากกว่าตัวโมเดลเอง