tag: Recursive Self-Improvement

Dario Amodei ซีอีโอ Anthropic เสนอให้ทั่วโลกชะลอการพัฒนา AI อย่างเป็นระบบ หลังพบสัญญาณการพัฒนาตัวเองแบบวนซ้ำ (Recursive Self-improvement) ที่อาจนำไปสู่การจารกรรมทางไซเบอร์และคุกคามความมั่นคงของอินเทอร์เน็ตภายใน 6-12 เดือนข้างหน้า

OpenAI บรรลุเป้าหมายการสร้างเอเจนท์ AI ที่ทำงานวิจัยได้เทียบเท่า 3.1 วันทำงานของมนุษย์ต่อวัน พร้อมประกาศความสำเร็จของนักวิจัยฝึกหัดอัตโนมัติ ขณะที่หัวหน้านักวิทยาศาสตร์เตือนว่ายังไม่มีแล็บใดควบคุมการพัฒนาให้ปลอดภัยได้ดีพอหากขยายตัวด้วยความเร็วสูงสุด

OpenAI เผยข้อมูลการใช้เอเจนต์ช่วยเขียนโค้ดเพื่อเร่งความเร็วในการวิจัย AI โดยมุ่งเป้าพัฒนา 'นักวิจัย AI อัตโนมัติ' ภายในปี 2028 ภายใต้มาตรการความปลอดภัยที่เข้มงวด

GPT-5.6 Sol แสดงศักยภาพในการจูนโมเดล Luna ขนาดเล็กด้วยตัวเองผ่านคำสั่งที่ไม่ชัดเจนนัก โดยทำคะแนนด้านการพัฒนาตนเอง (RSI) สูงกว่ารุ่นก่อนถึง 16.2 คะแนน ปูทางสู่ยุคนักวิจัย AI อัตโนมัติ