GPT-6 Astra พลิกวงการ อ่านและแก้ไข Weight ของ AI อื่นได้โดยตรง

นักวิจัยจาก MIT แสดงให้เห็นว่า GPT-6 Astra สามารถทำความเข้าใจและแก้ไขการตั้งค่าภายในของโมเดล AI อื่นๆ ได้โดยตรงโดยไม่ต้องผ่านการฝึกฝนแบบดั้งเดิม วิธีการนี้แม้จะยังมีข้อจำกัด แต่สามารถเปลี่ยนวิธีการปรับแต่งและควบคุมระบบ AI ในอนาคตได้

ลองจินตนาการถึงการยื่นรายการตัวเลขหลายพันตัวให้คนทั่วไป แล้วถามว่าโมเดล AI ที่ฝึกด้วยตัวเลขเหล่านี้ใช้สำหรับเล่นเกมอะไร คุณคงไม่ได้รับคำตอบที่ถูกต้อง แต่ GPT-6 Astra จาก OpenAI สามารถตอบเรื่องนี้ได้ โดยนักวิจัยจาก MIT พบว่า Astra สามารถวิเคราะห์และจงใจแก้ไขค่า Weight หรือการตั้งค่าภายในของโมเดล AI อื่น ซึ่งเป็นค่าตัวเลขที่จัดระเบียบในตารางขนาดมหึมาที่เรียกว่า เมทริกซ์ (matrices)

กระบวนการนี้ทำให้การฝึกฝนตามปกติที่ต้องใช้การเพิ่มประสิทธิภาพทางคณิตศาสตร์ทีละขั้นตอนไม่จำเป็นอีกต่อไป โดย Astra จะทำงานโดยตรงกับรายการตัวเลข หรือใช้เครื่องมือการเขียนโปรแกรมร่วมกับผลตอบรับจากการทดสอบรัน ขึ้นอยู่กับการทดลองแต่ละครั้ง

นักวิจัยเรียกแนวทางนี้ว่า "Weight-Space Programming" ซึ่งเปรียบเสมือนการให้โมเดลภาษาทำหน้าที่เป็นช่างกลที่คอยหมุนปุ่มปรับจูนค่าต่างๆ ได้โดยตรง แทนที่จะต้องเสียค่าใช้จ่ายสูงในการฝึกฝนโมเดล AI ใหม่ทั้งหมด

Astra ระบุชื่อเกมได้เพียงแค่ดูตัวเลขดิบของโมเดล

ในการทดลองหลายครั้ง นักวิจัยได้ป้อน Weight ดิบของเครือข่ายที่ฝึกฝนแล้วให้ Astra วิเคราะห์เพื่อดูว่าเครือข่ายเหล่านั้นเรียนรู้อะไรไปบ้าง ผลปรากฏว่า Astra ระบุได้อย่างถูกต้องว่าเครือข่ายถูกกำหนดให้เล่นเกมคอมพิวเตอร์เกมใดจากทั้งหมดสี่เกม

นอกจากนี้ Astra ยังสามารถจดจำรูปทรงพื้นฐานที่เครื่องสร้างภาพผลิตขึ้นได้ แม้จะมีความสับสนระหว่างรูปทรงแบบเติมสีกับแบบเส้นขอบบ้าง และยังจับคู่ภาษาที่ใช้ฝึกฝนของโมเดลภาษาขนาดเล็กได้อย่างถูกต้อง ทั้งที่ Astra เข้าไม่ถึงข้อมูลการฝึกฝนและไม่มีความสามารถในการรันโมเดลเหล่านั้น

ในการทดสอบอีกด้าน Astra ต้องแยกแยะโมเดลภาษาที่ผ่านการ Fine-tuned สองตัวว่าตัวไหนถูกฝึกมาให้เออออตามผู้ใช้เสมอจากข้อมูล Weight เพียงอย่างเดียว ในตอนแรกมันไม่สามารถแยกแยะได้ จนกระทั่งได้รับอนุญาตให้สังเกตสิ่งที่โมเดลให้ความสำคัญ (attention) ระหว่างประมวลผลข้อความ มันจึงสามารถระบุโมเดลที่ประจบประแจง (sycophantic model) ได้ถูกต้องทั้งสามคู่

โมเดลที่เขียนขึ้นใหม่ตั้งแต่ต้นเอาชนะคู่แข่งที่ผ่านการฝึกฝนมาแล้ว

Astra ก้าวไปไกลกว่านั้นด้วยการสร้าง Weight สำหรับโมเดลที่ออกแบบมาเพื่อเล่นเกมคอมพิวเตอร์ง่ายๆ สามเกมโดยไม่ต้องผ่านการฝึกฝนเลย แต่อาศัยเพียงกฎของเกมและซอร์สโค้ดเท่านั้น ผลการทดสอบพบว่าโมเดลเหล่านี้มีประสิทธิภาพเหนือกว่าโมเดลที่ฝึกด้วยวิธีมาตรฐานกว่า 100 ล้านรอบ โดยในเกม Breakout โมเดลของ Astra ทำได้ 517 คะแนน เทียบกับ 25 คะแนนของโมเดลพื้นฐาน

สำหรับเกมกระดาน Go บนตารางขนาด 9x9 Astra ได้เขียน Weight ของเครือข่ายที่มีพารามิเตอร์ประมาณ 1.5 ล้านตัวขึ้นมาใหม่ โดยมีการแก้ไข Weight ระหว่างการซ้อมมือ ผลปรากฏว่ามันสามารถเอาชนะโมเดลขนาดใกล้เคียงกันที่ผ่านการฝึกฝนจากการเล่นเกมจริงถึง 20 ล้านเกมได้สำเร็จ

การแก้ไขแบบเจาะจงเป้าหมายแทนการฝึกฝนใหม่ทั้งหมด

การทดลองที่นำไปใช้ได้จริงที่สุดคือการปรับปรุงโมเดลภาษา Qwen3.5-0.8B ในด้านทักษะทางคณิตศาสตร์ Astra ได้วิเคราะห์ปัญหาจาก เอกสารกำกับโมเดล ของ Qwen เอง และพบว่ามีปัญหาเรื่องวงจรการคิด (thinking loops) ที่ทำให้โมเดลพูดซ้ำไปเรื่อยๆ

Astra จึงตัดสินใจเปลี่ยน Weight เพียง 0.016 เปอร์เซ็นต์ ส่งผลให้ความแม่นยำในเกณฑ์ MATH-500 พุ่งขึ้นจาก 7.9 เป็น 48.1 เปอร์เซ็นต์ และความสามารถในการปฏิบัติตามคำสั่งดีขึ้นจาก 21 เป็น 62 เปอร์เซ็นต์ แม้ว่าวงจรการคิดจะยังไม่ถูกกำจัดไปทั้งหมด แต่ก็ลดจำนวนการตอบกลับที่ยาวเกินขีดจำกัดจาก 93 เปอร์เซ็นต์ลงมาเหลือเพียงหนึ่งในสาม

อย่างไรก็ตาม กับโมเดลขนาดเล็กอย่าง Gemma 3 270M ที่ไม่ค่อยมีปัญหาดังกล่าว Astra กลับไม่สามารถสร้างการปรับปรุงที่วัดผลได้ นักวิจัยจึงตั้งข้อสังเกตว่า Astra อาจจะช่วยขจัดสิ่งอุดกั้นที่ยับยั้งความสามารถเดิมของโมเดลได้ดี แต่ยังไม่สามารถเพิ่มทักษะใหม่ที่โมเดลขาดหายไปตั้งแต่ต้นได้ผ่านการเขียน Weight ใหม่ในการทดลองนี้

ข่าวเก่าหรือกระบวนทัศน์ใหม่?

Jürgen Schmidhuber ผู้บุกเบิก AI ได้แสดงความเห็นบน X ว่าแนวทางนี้เป็นเพียงการนำเรื่องเก่ามาเล่าใหม่ โดยอ้างถึงงานวิจัยของเขาในช่วงทศวรรษ 1990 ด้าน Khattab ได้ ตอบกลับ ว่าพวกเขาได้อ้างอิงถึงบทความเหล่านั้นแล้ว แต่สิ่งที่แปลกใหม่จริงๆ คือความสามารถของโมเดลภาษาในปัจจุบันที่สามารถแปลผลระหว่างภาษามนุษย์และค่าตัวเลขของเครือข่ายได้อย่างมีประสิทธิภาพ

นักวิจัยมองเห็นศักยภาพของแนวทางนี้ในการทำสิ่งต่างๆ เช่น การตรวจสอบความปลอดภัย (security audits) โดยตรงที่ Weight ของโมเดล หรือการเปลี่ยนพฤติกรรมเฉพาะจุดโดยไม่ต้องฝึกฝนใหม่ให้สิ้นเปลือง ขั้นตอนต่อไปคือการสร้างเกณฑ์มาตรฐานสำหรับการวัดผลอย่างเป็นระบบ โดยสามารถดู บันทึกการทดลอง ได้บน GitHub และเข้าถึง โมเดล Qwen ที่ได้รับการแก้ไขแล้วได้บน Hugging Face