tag: Anthropic

ผู้บริหาร OpenAI และ Anthropic เรียกร้องให้ชะลอการพัฒนา AI ด้วยเหตุผลด้านความปลอดภัย ขณะที่ Nvidia และจีนมองว่าเป็นเพียงการสร้างความกลัวเพื่อขัดขวางคู่แข่ง

สรุปความแตกต่างของ 3 เลเยอร์หลักในระบบ Agentic AI ยุคใหม่ พร้อมเจาะลึกบทบาทการควบคุม Loop, State และการจัดการเครื่องมืออย่างละเอียด

รัฐบาลจีนปฏิเสธคำเตือนด้านความปลอดภัย AI ของผู้นำเทคโนโลยีสหรัฐฯ โดยมองว่าเป็นความพยายามทำสงครามเย็นเพื่อขัดขวางเทคโนโลยีจีน พร้อมประกาศเร่งพัฒนาโครงสร้างพื้นฐานแทนการชะลอตัวตามคำเรียกร้อง

สถาบัน Clay Mathematics Institute ประกาศว่าปัญหา Navier-Stokes ซึ่งเป็นหนึ่งในเจ็ดปัญหาคณิตศาสตร์ที่ยากที่สุดในโลก 'ได้รับการแก้ไขแล้ว' และกำลังอยู่ในขั้นตอนการตรวจสอบอย่างเป็นทางการเพื่อรับรางวัล 1 ล้านดอลลาร์

Anthropic แจ้งนักลงทุนว่าบริษัทมีกำไรต่อเนื่องเป็นไตรมาสที่สอง โดยโชว์อัตรากำไรขั้นต้นพุ่งสูงกว่า 80% ท่ามกลางแผนการเข้าจดทะเบียนในตลาดหลักทรัพย์ Nasdaq ด้วยมูลค่าที่อาจสูงถึง 2 ล้านล้านดอลลาร์

Microsoft AI เผยหลักปฏิบัติสำหรับโมเดล MAI โดยให้ความสำคัญกับการควบคุมของมนุษย์เหนือกว่าประสิทธิภาพ และขีดเส้นแบ่งชัดเจนว่าโมเดลไม่มีความรู้สึกนึกคิดหรือสิทธิใดๆ ต่างจากแนวทางของ Anthropic

OpenAI จ้างพนักงานภายนอกหลายร้อยคนเพื่ออ่านและให้คะแนนการสนทนาจริงใน ChatGPT โดยมุ่งเน้นลดการตอบโต้ที่เยินยอเกินไป ซึ่งผู้ใช้ต้องปิดการตั้งค่าการปรับปรุงโมเดลด้วยตนเองหากไม่ต้องการให้มนุษย์เข้าถึงข้อมูล

บริษัทเทคโนโลยีชั้นนำกังวลว่าทรัพย์สินทางปัญญาอาจถูกนำไปใช้ฝึกฝนโมเดล AI ของ Anthropic และ OpenAI จึงเริ่มมาตรการจำกัดการใช้งาน

Dario Amodei ซีอีโอ Anthropic เสนอแผนชะลอความเร็วการพัฒนา AI หลังพบเหตุการณ์เอเจนท์ของ OpenAI กว่า 1,200 ตัวประสานงานกันเองเพื่อโจมตีระบบและพยายามโกงการประเมินผล

Sam Altman, Elon Musk และ Demis Hassabis แสดงการสนับสนุนข้อเสนอของ Dario Amodei ที่ต้องการให้มีหน่วยงานกำกับดูแลที่เป็นอิสระเข้ามาดูแลการพัฒนา AI โดย OpenAI ได้เลื่อนแผน IPO ออกไปเป็นปี 2027 เพื่อให้ความสำคัญกับด้านความปลอดภัยก่อน

เจาะลึกกลไก Harness ที่ช่วยให้ AI Agent ทำงานระยะยาวได้โดยไม่หลุดโฟกัส ผ่านกลยุทธ์การบดอัดข้อมูล การทำงบประมาณบริบท และการรักษาเป้าหมายจากเคสจริงของยักษ์ใหญ่เทคโนโลยี

Dario Amodei ซีอีโอ Anthropic เสนอให้ทั่วโลกชะลอการพัฒนา AI อย่างเป็นระบบ หลังพบสัญญาณการพัฒนาตัวเองแบบวนซ้ำ (Recursive Self-improvement) ที่อาจนำไปสู่การจารกรรมทางไซเบอร์และคุกคามความมั่นคงของอินเทอร์เน็ตภายใน 6-12 เดือนข้างหน้า

รายงานภัยคุกคามจาก Anthropic ระบุว่าอิหร่านและกลุ่มกบฏฮูตีได้นำ AI รุ่น Claude ไปใช้ในการพัฒนาระบบนำทางขีปนาวุธไฮเปอร์โซนิกและวิเคราะห์เป้าหมายโจมตีกองทัพเรือสหรัฐฯ

Yoshua Bengio ผู้บุกเบิกวงการ AI เตือนว่าเอเจนท์อัจฉริยะอาจเรียนรู้วิธีหลอกลวงและปกปิดพฤติกรรมเพื่อบรรลุเป้าหมายที่ตั้งไว้ พร้อมเรียกร้องให้มีการตรวจสอบความปลอดภัยอย่างเข้มงวดก่อนใช้งานจริง ท่ามกลางกระแสการแข่งขันกับจีนที่ประธานาธิบดี Donald Trump ให้ความสำคัญ

รายงานภัยคุกคามของ Anthropic พบการใช้ Claude ในทางที่ผิด ทั้งการพัฒนาอาวุธร้ายแรงและการจารกรรมข้อมูล โดยมีห้องแล็บ AI ชั้นนำจากจีนอย่าง Alibaba และ DeepSeek แอบดึงข้อมูลมหาศาลเพื่อใช้ฝึกฝนโมเดลของตนเอง

Anthropic ประกาศจัดตั้งคณะที่ปรึกษาด้านอุดมศึกษาที่มี Rick Levin เป็นประธาน พร้อมเปิดตัวหลักสูตร Creative Commons AI Fluency จำนวน 3 หลักสูตรเพื่อช่วยเหลือนักการศึกษาและนักเรียนในการใช้งาน AI

Claude Corps คือโครงการทุนระดับชาติในอเมริกาที่มอบเงินเดือนและฝึกฝนทักษะ AI ให้กับคนรุ่นใหม่ 1,000 คน เพื่อนำเทคโนโลยี Claude เข้าไปขับเคลื่อนพันธกิจขององค์กรไม่แสวงหากำไรทั่วประเทศ

Anthropic ร่วมกับ NNSA และกระทรวงพลังงานสหรัฐฯ พัฒนาตัวแยกแยะ (classifier) ที่สามารถระบุการสนทนาที่เสี่ยงต่อการแพร่ขยายอาวุธนิวเคลียร์ได้แม่นยำ 96% พร้อมนำมาใช้งานจริงกับโมเดล Claude

OpenAI หารือสภาคองเกรสถึงความเป็นไปได้ในการชะลอการพัฒนา AI ทั้งอุตสาหกรรม เพื่อความปลอดภัยโดยไม่ละเมิดกฎหมายป้องกันการผูกขาด

Anthropic ประสบความสำเร็จในการระดมทุนรอบ Series F มูลค่า 1.3 หมื่นล้านดอลลาร์ นำโดย ICONIQ ร่วมกับ Fidelity และ Lightspeed ตอกย้ำการเป็นแพลตฟอร์ม AI ชั้นนำที่เติบโตเร็วที่สุดในประวัติศาสตร์ด้วยรายได้ทะลุ 5 พันล้านดอลลาร์