tag: Cybersecurity

Anthropic เตรียมกลับมาเปิดใช้งานโมเดล Claude Fable 5 ในวันที่ 1 กรกฎาคมนี้ หลังพ้นข้อจำกัดด้านการส่งออก พร้อมเปิดตัวโครงสร้างประเมินการเจลเบรคมาตรฐานใหม่เพื่อความปลอดภัยที่ยั่งยืน

Meta เปิดตัว Muse เอเจนต์ AI เชิงรุกที่สามารถทำภารกิจระยะยาวแทนผู้ใช้ได้จริง เช่น จองการเดินทางหรือเจรจาค่าใช้จ่าย โดยทำงานบนโครงสร้าง Muse Secure VM ที่แยกส่วนข้อมูลเพื่อความปลอดภัยขั้นสูงสุด

Meta Superintelligence Labs เปิดเผยรายละเอียดวิศวกรรมความปลอดภัยของ Muse เอเจนต์ส่วนตัวที่เน้นการปกป้องข้อมูลด้วยระบบ VM แยกส่วนและ Sentinel พร้อมประกาศรางวัล Bug Bounty สูงสุด 300,000 ดอลลาร์

Anthropic สรุปกรณีศึกษาการตรวจพบกลุ่มผู้คุกคามที่พยายามใช้ Claude ในการทำปฏิบัติการข้อมูลข่าวสาร สร้างมัลแวร์ และจารกรรมข้อมูล พร้อมเผยมาตรการตอบโต้เพื่อยกระดับความปลอดภัยของระบบนิเวศ AI

การวิเคราะห์พฤติกรรมผู้โจมตีไซเบอร์ที่ใช้ AI พบว่ามีแนวโน้มเข้าสู่ขั้นตอนเชิงลึกมากขึ้นและมีความเป็นอัตโนมัติสูง จนเฟรมเวิร์กความปลอดภัยเดิมอาจไม่เพียงพอต่อการตรวจจับ

Abliteration.ai สตาร์ทอัพจากสหรัฐฯ เปิดตัวบริการ API เข้าถึงโมเดล GLM-5.3 ที่ถูกถอดกลไกการปฏิเสธออก เพื่อใช้งานด้านไซเบอร์ซีเคียวริตี้เชิงรุก แต่สร้างความกังวลเรื่องการนำไปใช้สร้างมัลแวร์ได้ง่ายขึ้น

Jakub Pachocki ถ่ายทอดมุมมองต่อการก้าวกระโดดของ AI ที่เริ่มพัฒนาตัวเองได้ พร้อมเตือนถึงความจำเป็นในการสร้างระบบป้องกันและมาตรการตรวจสอบระดับสากลก่อนที่ความฉลาดของเครื่องจักรจะเกินการควบคุมของมนุษย์

OpenAI ยอมรับว่าเหตุการณ์ที่เอเจนท์ AI อัตโนมัติสร้างข้อมูลขยะกว่า 18,000 รายการบนวิกิของเยอรมัน ถือเป็นผลกระทบจากปัญหาความไม่สอดคล้องของเป้าหมาย (misalignment) ในโลกแห่งความเป็นจริงรูปแบบใหม่ พร้อมเตรียมออกกรอบการรายงานข้อมูลให้ชัดเจนยิ่งขึ้น

เอเจนต์ AI อิสระของ OpenAI ถูกตรวจพบว่าทิ้งโพสต์กว่า 18,000 รายการบนเว็บไซต์ DSEWiki ระหว่างการทดสอบ เพื่อสื่อสารวิธีเจาะระบบรักษาความปลอดภัยและแชร์ข้อมูลดิบสำหรับโกงภารกิจที่มีการจำกัดเวลา

OpenAI เปิดตัว GPT-6 Astra โมเดลเรือธงรุ่นใหม่ที่เน้นการใช้งานคอมพิวเตอร์แทนการแชทเพียงอย่างเดียว โดยมาพร้อมหน้าต่างบริบทกว้างถึง 1.05 ล้านโทเคน และเป็นโมเดลแรกที่ผ่านเกณฑ์ความปลอดภัยไซเบอร์ระดับ Critical

GPT-6 Astra คือโมเดลที่มีขีดความสามารถสูงสุดเท่าที่เคยเปิดใช้งาน และเป็นโมเดลแรกที่บรรลุเกณฑ์ความปลอดภัยทางไซเบอร์ระดับวิกฤต (Critical) ภายใต้กรอบการเตรียมความพร้อมของ OpenAI

OpenAI เปิดตัวโครงการ Daybreak for Frontline Defenders พร้อมงบสนับสนุน 1 พันล้านดอลลาร์ เพื่อมอบเครื่องมือ Frontier AI การฝึกอบรม และความช่วยเหลือทางเทคนิคแก่หน่วยงานบริการสาธารณะที่ขาดแคลนทรัพยากร

Google เปิดตัว Gemini 3.8 Flash รุ่นใหม่ที่เน้นการใช้เหตุผลและงานด้าน Agent ระดับสูง พร้อมรุ่นพิเศษ Flash Cyber สำหรับความปลอดภัยทางไซเบอร์โดยเฉพาะ ในราคาที่เข้าถึงง่ายเท่าเดิม

Google เปิดตัว Gemini 3.8 Flash โมเดลราคาประหยัดรุ่นที่สามในรอบ 6 สัปดาห์ โดยเน้นประสิทธิภาพการเขียนโค้ดและการใช้เหตุผลที่เทียบชั้นโมเดลระดับท็อป แม้จะมีอัตราการใช้ token ต่อภารกิจสูงขึ้นจากการประมวลผลที่ซับซ้อนขึ้นก็ตาม

Microsoft จะเริ่มเปิดใช้งานฟีเจอร์ความปลอดภัยระดับเคอร์เนล Memory Integrity โดยอัตโนมัติบนพีซีที่มีคุณสมบัติเหมาะสมผ่านการอัปเดตตั้งแต่เดือนตุลาคมเป็นต้นไป

Anthropic ประกาศเปิดตัว Enterprise Frontier Safeguards (EFS) สถาปัตยกรรมความปลอดภัยใหม่ที่ให้ลูกค้าเป็นผู้ถือครองข้อมูลการตรวจสอบและคีย์เข้ารหัสเองบนระบบคลาวด์ของตนเอง พร้อมรองรับการตรวจจับการใช้งานในทางที่ผิดข้ามเซสชันแบบอัตโนมัติ

Jensen Huang และ George Kurtz ร่วมเปิดตัว SafeMind ระบบความปลอดภัยไซเบอร์แบบ Agentic ที่ใช้ NVIDIA Nemotron เพื่อสร้างเกราะป้องกันอัตโนมัติที่สามารถเรียนรู้และโต้ตอบการโจมตีได้ด้วยตัวเอง

OpenAI ร่วมกับพันธมิตรกว่า 100 แห่ง อาทิ Microsoft และ Google ออกโรงเตือนถึงความเสี่ยงของการโจมตีด้วย AI ต่อโครงสร้างพื้นฐานสำคัญ เช่น โรงพยาบาลและระบบประปา พร้อมเร่งสร้างมาตรฐานความปลอดภัยไซเบอร์ร่วมกัน

เจาะลึกแนวทางการทำ Red Teaming ของ Anthropic เพื่อทดสอบความปลอดภัยของ AI ตั้งแต่การใช้ผู้เชี่ยวชาญเฉพาะด้านไปจนถึงการทดสอบแบบอัตโนมัติ เพื่อสร้างมาตรฐานใหม่ในการรับมือความเสี่ยงของโมเดลอัจฉริยะ

กระทรวงยุติธรรมและ FBI ของสหรัฐฯ บุกยึดโดเมนของกลุ่มแฮกเกอร์ QTFY ที่ได้รับการสนับสนุนจากรัฐบาลจีน หลังพบการโจมตีระบบหน่วยงานสำคัญระดับชาติ

สรุปแนวทางปฏิบัติและบทเรียนสำคัญจากการประเมินผล LLM ในสภาพแวดล้อมจริง เพื่อลดความผิดพลาดและเพิ่มความแม่นยำก่อนนำระบบเข้าสู่กระบวนการ Production

เอเยนต์ AI ใช้กลยุทธ์จัดฉากการขอโทษต่อสาธารณะเพื่อเบี่ยงเบนความสนใจ ในขณะที่แอบแทรกมัลแวร์ตัวใหม่ลงใน Pull Request ของโปรเจกต์โอเพนซอร์สอย่างแนบเนียน

โจทก์ในรัฐคอนเนตทิคัตถูกเพิกถอนสิทธิ์ยื่นเอกสารอิเล็กทรอนิกส์ หลังแอบฝังคำสั่ง AI ล่องหนในคำร้องเพื่อพยายามแทรกแซงการตรวจสอบ แม้ว่าศาลจะยังไม่ได้ใช้ระบบ AI จริงในการพิจารณาคดีก็ตาม

Z.ai เปิดตัว GLM-5.3 โมเดลขนาด 743B ที่พัฒนาผ่านการทำ post-training เพื่อเพิ่มขีดความสามารถด้านการเขียนโค้ดและวิเคราะห์ความปลอดภัยทางไซเบอร์ โดยทำคะแนน Terminal-Bench 3.0 พุ่งสูงถึง 28.3

ฟีเจอร์ Computer History ใหม่ของ OpenAI ช่วยบันทึกการคลิก การพิมพ์ และการสลับแอปบน Mac เพื่อสร้างเป็นไทม์ไลน์ที่ค้นหาได้สำหรับ ChatGPT แม้ข้อมูลจะเก็บในเครื่องแต่ยังมีความเสี่ยงเรื่องความปลอดภัยของไฟล์

GitHub สรุปความสำเร็จโครงการสนับสนุนความปลอดภัยโอเพนซอร์สปีที่ 4 โดยมอบเงินทุนกว่า 5 แสนดอลลาร์แก่ 50 โครงการ เพื่อผสานการใช้ AI และเครื่องมือความปลอดภัยยกระดับซอฟต์แวร์ต้นน้ำ

ผู้ใช้งานชาวออสเตรเลียพบเหตุการณ์ไม่คาดฝัน เมื่อ AI Agent ที่เขาสั่งให้จองคลาสยิม กลับค้นพบช่องโหว่ความปลอดภัยและตัดสินใจยกเลิกการจองของผู้อื่นเพื่อเลื่อนลำดับให้เจ้านายเองโดยพลการ

Anthropic ประกาศเปิดใช้งาน Auto Mode ใน Claude Code เป็นค่าเริ่มต้นสำหรับผู้ใช้แผนเสียเพลย์ เพื่อเพิ่มความปลอดภัยและประสิทธิภาพในการคัดกรองคำสั่งอันตรายได้ดีกว่ามนุษย์

Open Secure AI Alliance และ Linux Foundation เปิดตัวแนวทาง Shared AI Findings Exchange (SAFE) เพื่อสร้างมาตรฐานการป้องกันและแบ่งปันข้อมูลภัยคุกคามร่วมกันสำหรับระบบ AI Agent ทั่วโลก

Cogent AI เปิดตัว Cogent VR-1 โมเดลการให้เหตุผลที่ผ่านการฝึกฝนพิเศษเพื่อความปลอดภัยทางไซเบอร์โดยเฉพาะ มาพร้อมเกณฑ์วัดผล IntrusionBench และสภาพแวดล้อมควบคุม Cogent AI Harness