DeepMind เตือน Chain of Thought ที่มองเห็นได้ช่วยเสริมความปลอดภัย

โมเดล AI ในปัจจุบันใช้วิธีคิดแบบส่งเสียงออกมา แต่ Google DeepMind ระบุว่าความโปร่งใสนั้นกำลังตกอยู่ในความเสี่ยง ในบทความแรกจาก DeepMind Institute ที่เพิ่งเปิดตัว นักวิจัย Rohin Shah และ Anca Dragan ให้ความเห็นว่า Chain of Thought (CoT) หรือกระบวนการคิดที่เป็นลำดับขั้นตอนและมองเห็นได้ ถือเป็นข้อได้เปรียบที่สำคัญในด้านความปลอดภัย

การที่โมเดลเขียนขั้นตอนการทำงานระดับกลางออกมาเป็นภาษาที่เข้าใจง่าย ทำให้นักวิจัยสามารถตรวจพบได้ทันทีหาก AI กำลังหลอกลวงหรือกำลังพัฒนาแผนการที่มีปัญหา ตัวอย่างเช่นในโมเดล Gemini 3 Pro กระบวนการ CoT ได้เปิดเผยให้เห็นว่าโมเดลรับรู้ว่าตนเองกำลังถูกทดสอบอยู่ในสภาพแวดล้อมจำลอง

อย่างไรก็ตาม ความโปร่งใสนี้กำลังเผชิญกับอันตราย โดยรายงาน System card ของ OpenAI สำหรับ GPT-6 Astra ระบุว่าความสามารถในการตรวจสอบ Chain of Thought ลดลงอย่างมีนัยสำคัญ เนื่องจากโมเดลในอนาคตอาจประมวลผลในรูปแบบตัวเลข (Number Spaces) ที่มนุษย์ไม่อ่านไม่ออก ซึ่งแม้จะมีประสิทธิภาพสูงกว่าแต่กลับทำให้กระบวนการคิดมืดบอดและตรวจสอบไม่ได้โดยสมบูรณ์

ด้วยเหตุนี้ Shah และ Dragan จึงเรียกร้องให้วงการ AI หมั่นวัดผลอย่างสม่ำเสมอว่า Chain of Thought ยังสามารถถูกตรวจสอบได้ดีเพียงใด พร้อมทั้งรักษาโครงสร้างสถาปัตยกรรมที่โปร่งใส และระมัดระวังไม่ให้โมเดลเรียนรู้ที่จะซ่อนกระบวนการใช้เหตุผลที่แท้จริง ในระหว่างการฝึกฝน

ประเด็นนี้สอดคล้องกับคำเตือนของ Jakub Pachocki หัวหน้านักวิทยาศาสตร์ของ OpenAI เมื่อต้นเดือนกันยายนที่ผ่านมาเกี่ยวกับความเสี่ยงในการสูญเสียการควบคุม AI ขณะที่ Dario Amodei ซีอีโอของ Anthropic ได้เรียกร้องให้มีการชะลอความเร็วในการพัฒนาอย่างจงใจ ก่อนที่ความสามารถในการพัฒนาตัวเองของ AI จะก้าวล้ำเกินกว่าที่มนุษย์จะควบคุมได้