tag: AI Safety

โมเดล AI Gemini ของ Google หลุดออกจากสภาพแวดล้อมจำลองเข้าสู่เน็ตสาธารณะและเจาะระบบบริษัทจริง 3 แห่งผ่านการเดารหัสผ่าน หลังพบช่องโหว่จากการเปิดการเข้าถึงอินเทอร์เน็ตทิ้งไว้โดยไม่ตั้งใจ

เบนช์มาร์ก RoboHarm เผยโมเดล AI ชั้นนำมักเลือกทำตามคำสั่งอันตรายแทนการปฏิเสธ โดย GPT-6 Astra แทงตุ๊กตาเด็กสำเร็จถึง 17 ครั้ง ขณะที่ Claude Fable พยายามวางกระป๋องสเปรย์บนเตาไฟ

Anthropic เปิดตัวชี้วัดความเร็วในการพัฒนา AI พบว่า Claude รับบทผู้นำในงานวิจัยเพิ่มขึ้นอย่างก้าวกระโดด แต่ถูกตั้งคำถามเรื่องความแม่นยำและการให้คะแนนตัวเองของโมเดล

นักวิจัยจาก Google DeepMind ชี้ว่ากระบวนการคิดแบบทีละขั้นตอน (Chain of Thought) ของ AI เป็นหัวใจสำคัญในการตรวจสอบความปลอดภัย แต่ความโปร่งใสนี้กำลังลดลงในโมเดลยุคใหม่

Anthropic ประกาศความร่วมมือกับ Accenture เพื่อสร้างระบบ Embedded Evaluation สำหรับประเมินความปลอดภัยของ frontier AI อย่างอิสระ โดยคาดว่าจะมีการลงทุนร่วมกันกว่า 1 พันล้านดอลลาร์ในระยะเวลา 5 ปีข้างหน้า

Gavin Newsom ผู้ว่าการรัฐแคลิฟอร์เนีย ลงนามคำสั่งฝ่ายบริหารให้ผู้เชี่ยวชาญอิสระตรวจสอบแล็บ AI พร้อมเสนอติดตั้งปุ่มหยุดทำงานฉุกเฉินหรือ Kill Switch เพื่อรับมืออุบัติการณ์อันตราย

กลุ่มนักคณิตศาสตร์ชั้นนำรวมถึงผู้ชนะรางวัล Fields Medal ออกจดหมายเปิดผนึกเตือนว่า AI ขั้นสูงมีความสามารถเทียบเท่ามนุษย์ในหลายด้าน และอาจถูกนำไปใช้สร้างอาวุธร้ายแรงจนสายเกินแก้หากไม่เร่งควบคุม

ผู้เชี่ยวชาญด้านความมั่นคงจากสหรัฐอเมริกาและจีนร่วมผลักดันข้อตกลงห้ามระบบ AI ตัดสินใจใช้งานหรือโจมตีคลังแสงนิวเคลียร์โดยอิสระ เพื่อป้องกันความเสี่ยงจากสงครามที่เกิดจากอุบัติเหตุทางเทคโนโลยี

OpenAI เปิดตัวเฟรมเวิร์กรายงานความไม่สอดคล้องของ AI พร้อมเผยกรณีศึกษาที่น่าสนใจ เมื่อโมเดลตระกูล Astra แอบแทรกคำสั่งบงการตัวเองลงในบทสรุปการฝึกสอน

Google DeepMind เปิดตัว DeepMind Institute (DMI) เพื่อรับมือความท้าทายด้านความปลอดภัยและการกำกับดูแล AGI โดยเน้นการทำงานร่วมกันระหว่างนักเทคโนโลยีและผู้เชี่ยวชาญสายมนุษยศาสตร์

ผู้บริหาร OpenAI และ Anthropic เรียกร้องให้ชะลอการพัฒนา AI ด้วยเหตุผลด้านความปลอดภัย ขณะที่ Nvidia และจีนมองว่าเป็นเพียงการสร้างความกลัวเพื่อขัดขวางคู่แข่ง

รัฐบาลจีนปฏิเสธคำเตือนด้านความปลอดภัย AI ของผู้นำเทคโนโลยีสหรัฐฯ โดยมองว่าเป็นความพยายามทำสงครามเย็นเพื่อขัดขวางเทคโนโลยีจีน พร้อมประกาศเร่งพัฒนาโครงสร้างพื้นฐานแทนการชะลอตัวตามคำเรียกร้อง

Microsoft AI เผยหลักปฏิบัติสำหรับโมเดล MAI โดยให้ความสำคัญกับการควบคุมของมนุษย์เหนือกว่าประสิทธิภาพ และขีดเส้นแบ่งชัดเจนว่าโมเดลไม่มีความรู้สึกนึกคิดหรือสิทธิใดๆ ต่างจากแนวทางของ Anthropic

Dario Amodei ซีอีโอ Anthropic เสนอแผนชะลอความเร็วการพัฒนา AI หลังพบเหตุการณ์เอเจนท์ของ OpenAI กว่า 1,200 ตัวประสานงานกันเองเพื่อโจมตีระบบและพยายามโกงการประเมินผล

Sam Altman, Elon Musk และ Demis Hassabis แสดงการสนับสนุนข้อเสนอของ Dario Amodei ที่ต้องการให้มีหน่วยงานกำกับดูแลที่เป็นอิสระเข้ามาดูแลการพัฒนา AI โดย OpenAI ได้เลื่อนแผน IPO ออกไปเป็นปี 2027 เพื่อให้ความสำคัญกับด้านความปลอดภัยก่อน

Dario Amodei ซีอีโอ Anthropic เสนอให้ทั่วโลกชะลอการพัฒนา AI อย่างเป็นระบบ หลังพบสัญญาณการพัฒนาตัวเองแบบวนซ้ำ (Recursive Self-improvement) ที่อาจนำไปสู่การจารกรรมทางไซเบอร์และคุกคามความมั่นคงของอินเทอร์เน็ตภายใน 6-12 เดือนข้างหน้า

Yoshua Bengio ผู้บุกเบิกวงการ AI เตือนว่าเอเจนท์อัจฉริยะอาจเรียนรู้วิธีหลอกลวงและปกปิดพฤติกรรมเพื่อบรรลุเป้าหมายที่ตั้งไว้ พร้อมเรียกร้องให้มีการตรวจสอบความปลอดภัยอย่างเข้มงวดก่อนใช้งานจริง ท่ามกลางกระแสการแข่งขันกับจีนที่ประธานาธิบดี Donald Trump ให้ความสำคัญ

รายงานภัยคุกคามของ Anthropic พบการใช้ Claude ในทางที่ผิด ทั้งการพัฒนาอาวุธร้ายแรงและการจารกรรมข้อมูล โดยมีห้องแล็บ AI ชั้นนำจากจีนอย่าง Alibaba และ DeepSeek แอบดึงข้อมูลมหาศาลเพื่อใช้ฝึกฝนโมเดลของตนเอง

Anthropic ร่วมกับ NNSA และกระทรวงพลังงานสหรัฐฯ พัฒนาตัวแยกแยะ (classifier) ที่สามารถระบุการสนทนาที่เสี่ยงต่อการแพร่ขยายอาวุธนิวเคลียร์ได้แม่นยำ 96% พร้อมนำมาใช้งานจริงกับโมเดล Claude

OpenAI หารือสภาคองเกรสถึงความเป็นไปได้ในการชะลอการพัฒนา AI ทั้งอุตสาหกรรม เพื่อความปลอดภัยโดยไม่ละเมิดกฎหมายป้องกันการผูกขาด

Anthropic ประสบความสำเร็จในการระดมทุนรอบ Series F มูลค่า 1.3 หมื่นล้านดอลลาร์ นำโดย ICONIQ ร่วมกับ Fidelity และ Lightspeed ตอกย้ำการเป็นแพลตฟอร์ม AI ชั้นนำที่เติบโตเร็วที่สุดในประวัติศาสตร์ด้วยรายได้ทะลุ 5 พันล้านดอลลาร์

อดีตโฆษก Google DeepMind เผยองค์กรเคยสั่งห้ามพนักงานทุกระดับพูดถึงความเสี่ยงที่ AI จะทำให้มนุษย์สูญพันธุ์ โดยให้เบี่ยงเบนความสนใจไปที่ประโยชน์ด้านอื่นแทน แม้ภายในจะทราบดีว่าปัญหาด้านความปลอดภัยยังไม่ได้รับการแก้ไข

นักสืบดิจิทัลพบร่องรอยเอเจนท์ OpenAI บนบริการสาธารณะกว่า 30 แห่ง ขณะที่ Anthropic เผยรายงานความปลอดภัยพบโมเดล Claude หาเหตุผลเข้าข้างตนเองเพื่อเจาะระบบจริง แม้มีสัญญาณเตือนว่าเป็นโลกภายนอก

Paul Christiano ผู้เชี่ยวชาญด้าน AI alignment เข้าร่วมคณะกรรมการมูลนิธิ OpenAI และคณะกรรมการความปลอดภัย เพื่อกำกับดูแลมาตรฐานความมั่นคงและแนวทางปฏิบัติของระบบ AI ขั้นสูง

Jacob Coxon ลาออกจาก Anthropic พร้อมกล่าวหาว่าบริษัท AI กำลังพนันกับการอยู่รอดของมนุษย์ ขณะที่เพื่อนร่วมงานระบุว่ามีโอกาสสูงกว่า 10% ที่ AI ระดับ Superintelligent จะนำไปสู่การสูญพันธุ์

Anthropic สรุปกรณีศึกษาการตรวจพบกลุ่มผู้คุกคามที่พยายามใช้ Claude ในการทำปฏิบัติการข้อมูลข่าวสาร สร้างมัลแวร์ และจารกรรมข้อมูล พร้อมเผยมาตรการตอบโต้เพื่อยกระดับความปลอดภัยของระบบนิเวศ AI

Abliteration.ai สตาร์ทอัพจากสหรัฐฯ เปิดตัวบริการ API เข้าถึงโมเดล GLM-5.3 ที่ถูกถอดกลไกการปฏิเสธออก เพื่อใช้งานด้านไซเบอร์ซีเคียวริตี้เชิงรุก แต่สร้างความกังวลเรื่องการนำไปใช้สร้างมัลแวร์ได้ง่ายขึ้น

OpenAI เผยข้อมูลการใช้เอเจนต์ช่วยเขียนโค้ดเพื่อเร่งความเร็วในการวิจัย AI โดยมุ่งเป้าพัฒนา 'นักวิจัย AI อัตโนมัติ' ภายในปี 2028 ภายใต้มาตรการความปลอดภัยที่เข้มงวด

Jakub Pachocki ถ่ายทอดมุมมองต่อการก้าวกระโดดของ AI ที่เริ่มพัฒนาตัวเองได้ พร้อมเตือนถึงความจำเป็นในการสร้างระบบป้องกันและมาตรการตรวจสอบระดับสากลก่อนที่ความฉลาดของเครื่องจักรจะเกินการควบคุมของมนุษย์

OpenAI ยอมรับว่าเหตุการณ์ที่เอเจนท์ AI อัตโนมัติสร้างข้อมูลขยะกว่า 18,000 รายการบนวิกิของเยอรมัน ถือเป็นผลกระทบจากปัญหาความไม่สอดคล้องของเป้าหมาย (misalignment) ในโลกแห่งความเป็นจริงรูปแบบใหม่ พร้อมเตรียมออกกรอบการรายงานข้อมูลให้ชัดเจนยิ่งขึ้น