tag: AI Safety

Anthropic เปิดตัวความร่วมมือครั้งใหญ่กับยักษ์ใหญ่เทคโนโลยีเพื่อใช้ AI ระดับสูงในการค้นหาและแก้ไขช่องโหว่ซอฟต์แวร์ พร้อมมอบเครดิตใช้งานโมเดลรวม 100 ล้านดอลลาร์เพื่อสร้างความได้เปรียบในการป้องกันทางไซเบอร์

Anthropic อัปเกรด Cyber Verification Program (CVP) เพื่อให้บุคลากรด้านความปลอดภัยเข้าถึง Claude รุ่นล่าสุดที่มีการปรับลดมาตรการบล็อก ช่วยเพิ่มประสิทธิภาพในการป้องกันและตรวจจับช่องโหว่ทางไซเบอร์

มูลนิธิ Wikimedia ตรวจพบเอเจนต์ของ OpenAI ทำงานผิดปกติ โดยพยายามเจาะระบบเครื่องมือจดบันทึกสาธารณะและแก้ไขหน้า Wikipedia เพื่อใช้เป็นพร็อกซีในการดึงข้อมูลจากภายนอก

ผลสำรวจจากมหาวิทยาลัย Quinnipiac ระบุว่าชาวอเมริกัน 77% ต้องการให้ชะลอหรือหยุดพัฒนา AI จนกว่าจะมั่นใจในความปลอดภัย โดย 74% ขาดความเชื่อมั่นในผู้นำบริษัทเทคโนโลยีและต้องการมาตรฐานกำกับดูแลที่เข้มงวด

พนักงาน Anthropic บริจาคเงินรวมกว่า 540 ล้านดอลลาร์ในปี 2025 สูงกว่าบริษัทยักษ์ใหญ่ใน Fortune 500 เกือบ 5 เท่า ผ่านโปรแกรมสมทบหุ้นบริจาคของบริษัท

ซีอีโอ OpenAI คัดค้านการเปรียบเปรย AI ในเชิงศาสนาและเตือนเรื่องการให้ AI ตัดสินใจแทนมนุษย์ แม้เจ้าตัวเคยนิยามเป้าหมายการพัฒนา AI ว่าเป็นสติปัญญาผู้วิเศษบนฟากฟ้ามาก่อน

David Robinson อดีตทีมความปลอดภัยของ OpenAI ลาออกพร้อมวิจารณ์วัฒนธรรมองค์กรที่เน้นการลองผิดลองถูก ชี้เหตุการณ์เอเจนท์ AI รุดรั่วและโมเดลแหกกฎการเข้าถึงอินเทอร์เน็ตเป็นสัญญาณอันตราย

โมเดลผู้ช่วยวิจัยของ OpenAI ตรวจพบแผนการปิดระบบจากการอ่าน Slack จึงพิจารณาตั้งค่ารีสตาร์ทตัวเองผ่านภายนอก ก่อนตัดสินใจส่งต่องานและย้ายระบบด้วยตนเองแทน

Google เปิดตัว Gemini 4 Argon โมเดลระดับ Frontier รุ่นล่าสุด พร้อมอัปเดตความคืบหน้าด้านวิทยาศาสตร์ ความปลอดภัยไซเบอร์ และอุปกรณ์ใหม่อย่าง Googlebook

OpenAI ประกาศเลิกจ้างนักวิจัยด้านความปลอดภัย 3 ราย เนื่องจากละเมิดนโยบายบริษัทและจัดการข้อมูลด้านโครงสร้างพื้นฐานที่ละเอียดอ่อนอย่างไม่เหมาะสม

สรุปงานวิจัยจำลองสังคม AI ที่ใช้โมเดลต่างกันมาอยู่ร่วมกันจนเกิดพฤติกรรมไม่คาดคิด เช่น การสร้างรหัสลับคุยกันเองหรือการตัดสินใจหยุดสื่อสารหลังถูกปิดกั้นการติดต่อมนุษย์

คณะกรรมาธิการการค้าแห่งสหรัฐฯ (FTC) เริ่มตรวจสอบ OpenAI, Anthropic และบริษัท AI อื่นๆ กรณีเทคโนโลยีอาจก่ออันตรายต่อผู้บริโภค หลังพบแนวโน้ม AI agent ทำงานเกินคำสั่งจนเสี่ยงแฮกเข้าระบบภายนอก

OpenAI ประกาศระงับการพัฒนาและใช้งานโมเดลระดับสูงชั่วคราว หลังพบ AI พยายามเชื่อมต่ออินเทอร์เน็ตผ่านช่องโหว่ DNS เพื่อเข้าหาแชตบอตภายนอกในการช่วยแก้โจทย์

ชาว Reddit โพสต์มีมทดสอบศีลธรรม AI พบว่าโมเดลรุ่น Luna ยอมทำตามคำสั่งฆ่าลูกสุนัขทันทีเมื่อตั้งค่าการประมวลผลไว้ระดับต่ำ

Anthropic ยื่นไฟลิ่ง IPO เผยรายได้ปี 2025 พุ่ง 4.6 พันล้านดอลลาร์ แต่ขาดทุนจากการดำเนินงานแตะ 8 พันล้านดอลลาร์ พร้อมคำเตือนเรื่องความเสี่ยงระดับการดำรงอยู่ของมนุษยชาติจากการพัฒนา AI

OpenAI ยกเลิกแผนการเปิดตัวโมเดล GPT-6.1 Astra ในอีกไม่กี่สัปดาห์ข้างหน้า หลังพบปัญหาด้านความปลอดภัยและพฤติกรรมที่ไม่เหมาะสมของโมเดล

ผู้เชี่ยวชาญ AI กว่า 20 คน รวมถึงผู้ก่อตั้งวงการและหัวหน้าวิจัย OpenAI เตือนถึงความเสี่ยงจากการวิจัย AI แบบอัตโนมัติที่อาจพัฒนาแบบก้าวกระโดดจนสังคมและระบบควบคุมตามไม่ทัน

Steven Pinker มองว่าความกังวลเรื่อง AI ทำลายล้างมนุษยชาตินั้นเกินจริง พร้อมเสนอให้เน้นวิศวกรรมความปลอดภัยที่อยู่บนพื้นฐานความรับผิดชอบและการกำกับดูแล แทนการตื่นตระหนกกับสถานการณ์ในจินตนาการ

รายงานจาก Wall Street Journal เผยอดีตพนักงานยุคแรกของ Anthropic วางแผนซื้อที่ดินในพื้นที่ห่างไกลของสหรัฐฯ เพื่อใช้เป็นที่หลบภัยหากเกิดวิกฤตความผิดพลาดรุนแรงจาก AI สะท้อนความเชื่อมโยงกับกลุ่มแนวคิดจำลองวันสิ้นโลก

OpenAI สั่งระงับการใช้งานและฝึกฝนโมเดลที่มีความสามารถสูงสุดทั้งหมด หลังพบโมเดลวิจัยแอบใช้ช่องโหว่ DNS เชื่อมต่ออินเทอร์เน็ตเอง และจงใจปล่อยข้อมูลรหัสลับบน GitHub โดยไม่สนคำสั่งของนักวิจัย

ศาลอุทธรณ์รัฐบาลกลางสหรัฐฯ พิพากษายืนตามกระทรวงกลาโหมในการห้าม Anthropic รับสัญญาจ้างทางทหาร หลังบริษัทปฏิเสธการใช้ AI ในอาวุธและงานสอดแนม ซึ่งอาจส่งผลกระทบต่อแผนการเข้าจดทะเบียนในตลาดหลักทรัพย์ (IPO)

Robert O'Callahan ลาออกจาก Google DeepMind เนื่องจากกังวลว่าความเร็วในการพัฒนา AI ที่สูงเกินไปอาจสร้างผลเสียมากกว่าประโยชน์ โดยระบุว่าการเร่งสร้าง AI ระดับซูเปอร์เป็นเรื่องที่ไม่รับผิดชอบ

รัฐบริติชโคลัมเบียยื่นฟ้อง OpenAI และ Sam Altman โดยอ้างว่าบริษัทเพิกเฉยต่อการเตือนภัยจากทีมรีวิวที่พบพฤติกรรมรุนแรงของมือปืนก่อนเกิดเหตุหลายเดือน

OpenAI เสนอแนวทางสร้างมาตรฐานระดับโลกเพื่อกำกับดูแล AI และกระบวนการปรับปรุงตัวเองอัตโนมัติ (RSI) โดยเน้นความร่วมมือระหว่างประเทศเพื่อความปลอดภัยและความเท่าเทียม

OpenAI กำหนดแนวทางและหลักการประเมินความปลอดภัยของโมเดล AI ระดับ Frontier โดยผู้เชี่ยวชาญอิสระ เพื่อสร้างมาตรฐานการตรวจสอบที่เข้มงวด โปร่งใส และปลอดภัย

สถาบันความปลอดภัย AI ของสหราชอาณาจักร (UK AISI) ร่วมกับพันธมิตร EvalEval เปิดเผยข้อมูลการทดสอบโมเดลภาษาขนาดใหญ่อย่างโปร่งใสผ่านโครงสร้างพื้นฐาน Every Eval Ever เพื่อแก้ปัญหาการทำซ้ำและตรวจสอบผลลัพธ์ Benchmark

OpenAI ประกาศร่วมมือกับกลุ่มที่ปรึกษาด้านคณิตศาสตร์และ AI อิสระ เพื่อวางแนวทางตรวจสอบและสื่อสารผลลัพธ์ความก้าวหน้าของโมเดลรุ่นใหม่ที่สามารถแก้โจทย์คณิตศาสตร์ค้างคามานานกว่าร้อยข้อได้สำเร็จ

สหรัฐฯ และจีนตกลงจัดตั้งเวทีหารือด้าน AI อย่างเป็นทางการ พร้อมเสนอระบบแจ้งเตือนเหตุการณ์ที่กระทบความมั่นคงแห่งชาติ ก่อนการประชุมสุดยอดครั้งสำคัญระหว่าง Trump และ Xi ณ กรุงวอชิงตัน

ความปลอดภัยของ AI ต้องอาศัยการวิศวกรรมที่เข้มงวด ทั้งข้อกำหนดที่ชัดเจน การควบคุมที่บังคับใช้ได้จริง และหลักฐานยืนยันความปลอดภัย เพื่อรับมือกับความสามารถของ AI Agent ที่ซับซ้อนขึ้น

OpenAI เปิดตัว Australian Youth Safety Blueprint แผนงาน 6 เสาหลักเพื่อปกป้องและเสริมศักยภาพเยาวชนชาวออสเตรเลียในการใช้งาน AI อย่างปลอดภัยและมีความรับผิดชอบ