Anthropic ฝึกสอนโมเดล Mythos ใหม่ได้ด้วยทรัพยากรที่น้อยลงมหาศาล

Jacob Coxon อดีตนักวิจัยจาก OpenAI และ Anthropic ผู้จุดประเด็นความกังวลเกี่ยวกับ AI สู่กระแสหลัก ระบุว่าสไลด์นำเสนอข้อมูลก่อน IPO ของ Anthropic คือเหตุผลสำคัญที่ทำให้เขาตัดสินใจลาออกจากบริษัทหลังจากทำงานได้เพียง 4 เดือน

Coxon อธิบายว่าสไลด์ที่ Anthropic เปิดเผยสำหรับการนำเสนอข้อมูลก่อน IPO แสดงให้เห็นปริมาณทรัพยากรประมวลผล (compute) ที่ต้องใช้ในแต่ละช่วงเวลาเพื่อฝึกสอนโมเดล แม้แกนกราฟจะถูกบีบอัดจนทำให้การเพิ่มขึ้น 10 เท่า และ 100 เท่า ดูไม่ต่างกันมากนัก แต่เส้นกราฟยังคงพุ่งสูงขึ้นอย่างรวดเร็ว

Coxon กล่าวว่า สิ่งนี้พิสูจน์ว่าประสิทธิภาพของอัลกอริทึมไม่ได้พัฒนาเพียงแค่ความรวดเร็ว แต่กำลังพัฒนาด้วยอัตราที่เร่งตัวขึ้นอย่างมาก เขาประหลาดใจที่บริษัทตัดสินใจเปิดเผยข้อมูลดังกล่าวต่อสาธารณะ เนื่องจากเป็นพล็อตข้อมูลที่ดูรุนแรงเกินคาด

เขายังโต้แย้งว่าโมเดล Mythos ซึ่งเป็นการก้าวกระโดดครั้งสำคัญของ Anthropic ในช่วงฤดูใบไม้ผลิ เป็นเพียงจุดหนึ่งบนเส้นกราฟแบบ superexponential เท่านั้น โดยปัจจุบันบริษัทสามารถฝึกสอนโมเดล Mythos ใหม่ได้โดยใช้ compute เพียงเศษเสี้ยวของที่เคยใช้จริงในตอนแรก

อดีตนักวิจัยรายนี้มองว่าการปรับปรุงอัลกอริทึมจวนจะถูกทำให้เป็นอัตโนมัติ เขาจึงต้องการให้มีการระงับการพัฒนา frontier model ในปีหน้าเพื่อให้คู่แข่งสามารถไล่ตามได้ทัน ซึ่งจะส่งผลให้สติปัญญาในระดับมนุษย์กลายเป็นสินค้าทั่วไป (commoditize) และลดอิทธิพลของยักษ์ใหญ่อย่าง OpenAI และ Anthropic ลง

ก่อนหน้านี้ Coxon เคยฝึกสอน AI model ที่ OpenAI และล่าสุดกับ Anthropic โดยเขาได้รับความสนใจอย่างกว้างขวางจากการออกมา เตือนต่อสาธารณะเกี่ยวกับความเสี่ยงของระบบ AI ขั้นสูง ซึ่งสอดคล้องกับความกังวลของผู้เชี่ยวชาญรายอื่นว่า AI ที่สามารถปรับปรุงตัวเองได้อาจหลุดพ้นจากการควบคุมของมนุษย์ในที่สุด