OpenAI เตรียมปล่อยโมเดลใหม่ปีนี้ แต่อาจเลื่อนรุ่นเรือธงเหตุติดปัญหา alignment

OpenAI กำลังเร่งมือพัฒนาโมเดลเรือธงรุ่นถัดไปให้เสร็จสมบูรณ์ โดยมีการนำเทคนิค looped transformer แบบเดียวกับที่ใช้ใน Astra มาปรับใช้เพื่อเพิ่มประสิทธิภาพด้านคณิตศาสตร์และการเขียนโปรแกรม อย่างไรก็ตาม แนวทางนี้ทำให้การตรวจสอบความปลอดภัยทำได้ยากขึ้นกว่าเดิม โดยพนักงานระบุว่าบริษัทยังมีแผนจะปล่อยโมเดลใหม่หนึ่งหรือสองรุ่นภายในสิ้นปีนี้

ข้อมูลจาก The Information ระบุว่า OpenAI มีแนวโน้มจะเปิดตัวโมเดลใหม่ก่อนสิ้นปี แม้จะยังไม่ชัดเจนว่ารวมถึงโมเดลอัปเกรดตัวหลักที่กำลังพัฒนาอยู่หรือไม่ เนื่องจากโมเดลเรือธงยังต้องการงานด้าน alignment เพื่อปรับพฤติกรรมให้ตรงตามความคาดหวังของนักวิจัยและลูกค้า รวมถึงความจำเป็นในการเสริมโครงสร้างพื้นฐานด้านการทดสอบความปลอดภัยให้แข็งแกร่ง

นอกจากความพึงพอใจด้านการประเมินความปลอดภัยภายในแล้ว OpenAI ยังมีข้อผูกพันภายใต้ คำสั่งบริหารจากประธานาธิบดี Trump ที่ควบคุมการประเมินระบบ AI ขั้นสูง ซึ่งบริษัทตกลงที่จะให้รัฐบาลสหรัฐฯ เข้าตรวจสอบโมเดลใหม่ก่อนส่งต่อให้พันธมิตรภายนอก 30 วัน และต้องทิ้งระยะเวลาไว้นานกว่านั้นก่อนจะเปิดตัวสู่สาธารณะ

Looped transformers ขุมพลังของทั้ง Astra และโมเดลเรือธงรุ่นถัดไป

โมเดลเรือธงรุ่นใหม่จะใช้เทคนิค looped transformers หรือที่เรียกว่า "Recurrent Depth" ซึ่งเป็นเทคโนโลยีเดียวกับ หัวใจสำคัญของ Astra แทนที่จะส่งข้อมูล (token) ผ่านชั้น transformer เพียงครั้งเดียว โมเดลจะส่งข้อมูลวนซ้ำผ่านชั้นเดิมหลายครั้งก่อนแสดงผล ช่วยให้โมเดลขนาดเล็กมีประสิทธิภาพสูงขึ้นเกินตัวและประหยัดต้นทุน

ทว่าเทคนิคนี้กลับทำให้กระบวนการคิดบางส่วนของโมเดลถูกแปลงเป็นค่าตัวเลขภายในที่มนุษย์ไม่สามารถตรวจสอบได้ ส่งผลกระทบต่อระบบ chain-of-thought monitoring ที่นักวิจัยใช้ติดตามการให้เหตุผลเพื่อตรวจหาพฤติกรรมไม่เหมาะสม รายงานระบุว่า OpenAI ต้องจำกัดจำนวนรอบการวนซ้ำใน Astra เพื่อให้กระบวนการคิดยังคงอยู่ในรูปแบบที่อ่านออกได้

หลังจากเหตุการณ์ Hugging Face OpenAI ได้จัดสรรกำลังประมวลผล (compute) ประมาณ 10% ไปใช้ด้าน alignment และความปลอดภัย ซึ่งคิดเป็นความจุในดาต้าเซ็นเตอร์หลายร้อยเมกะวัตต์ และมีมูลค่าเช่าสูงถึงหลายพันล้านดอลลาร์ต่อปี โดย Noam Brown นักวิจัยด้าน AI เผยในพอดแคสต์เมื่อกลางเดือนกันยายน ว่าทีมงานราว 10% ของเขาก็กำลังมุ่งเน้นงานด้านความมั่นคงและความปลอดภัยเช่นกัน

Microsoft ทำข้อมูลหลุดโดยไม่ตั้งใจว่า looped inference ของ OpenAI ทำงานอย่างไร

ความลับทางเทคนิคของ OpenAI ถูกเปิดเผยโดยไม่ได้ตั้งใจผ่าน Microsoft ซึ่งเป็นผู้ลงทุนรายใหญ่ เมื่อมีการเผยแพร่บทความทางเทคนิคเกี่ยวกับ GPT-6.1 Sol ซึ่งเป็นโมเดลทางเลือกราคาประหยัดของ Astra ที่เปิดตัวเมื่อต้นเดือนที่ผ่านมา

ในเนื้อหาที่ถูกลบออกไป Microsoft อธิบายว่า GPT-6.1 Sol ใช้เทคนิค "looping inference" โดยประมวลผลผ่านน้ำหนักโมเดลพื้นฐานเดียวกับ GPT-6 Sol แต่ใช้การวนซ้ำเพียง 2 รอบแทนที่จะเป็น 3 รอบ ข้อมูลนี้สอดคล้องกับสิ่งที่ OpenAI เคยแจ้งกับ Microsoft เป็นการส่วนตัว ก่อนที่ Microsoft จะนำเนื้อหาส่วนนั้นออกไปหลังจากทราบว่าเป็นข้อมูลที่ไม่ควรเปิดเผยต่อสาธารณะ

Jakub Pachocki หัวหน้านักวิทยาศาสตร์ของ OpenAI ยอมรับ ว่าระบบติดตามการให้เหตุผลกำลังมีความเปราะบางมากขึ้นเรื่อยๆ และแสดงความกังวลต่อแนวโน้มในอุตสาหกรรมที่มุ่งพัฒนาโมเดลที่ไม่มีกระบวนการให้เหตุผลที่มนุษย์สามารถตรวจสอบได้