OpenAI เผยความสำเร็จ 'นักวิจัยฝึกหัด AI' พร้อมคำเตือนเรื่องความเร็วในการพัฒนาที่คุมยาก

OpenAI กำลังเปิดเผยข้อมูลภายในที่สะท้อนให้เห็นว่า เอเจนท์ AI เข้ามามีบทบาทสำคัญในการขับเคลื่อนการพัฒนาโมเดลของบริษัทมากเพียงใด โดยระบุว่าได้บรรลุหมุดหมายสำคัญสู่การเป็น AI ที่พัฒนาตัวเองได้ (self-improving AI) อย่างไรก็ตาม Jakub Pachocki หัวหน้านักวิทยาศาสตร์ได้ออกมาให้คำเตือนที่ตรงไปตรงมาอย่างหาได้ยากว่า ในปัจจุบันยังไม่มีห้องปฏิบัติการใดที่สามารถแก้ปัญหาการควบคุมระบบเหล่านี้ได้อย่างมีประสิทธิภาพเพียงพอ

การเปิดเผยครั้งนี้ประกอบด้วยบทความสองชุดที่สอดคล้องกัน ชุดแรกคือ blog post ซึ่งแสดงตัวเลขชี้วัดภายในเกี่ยวกับความเป็นอัตโนมัติในงานวิจัย และอีกชุดคือความเรียงชื่อ "An Alien Mind" โดย Pachocki ซึ่งเผยแพร่หลังจากเปิดตัว GPT-6 Astra เพียงสามวัน สาระสำคัญคือ OpenAI กำลังรุดหน้าสู่การพัฒนาตัวเองแบบวนซ้ำ (recursive self-improvement หรือ RSI) อย่างรวดเร็ว แม้จะยอมรับว่ากระบวนการดังกล่าวมีความเสี่ยงสูงก็ตาม

ปัจจุบันบริษัทระบุว่าประสบความสำเร็จในการสร้าง "นักวิจัยฝึกหัดอัตโนมัติ" ตามที่ตั้งเป้าไว้เมื่อปีที่แล้ว โดยระบบนี้สามารถจัดการงานวิจัยที่ขอบเขตชัดเจนภายใต้การดูแลของมนุษย์ได้เทียบเท่ากับงานที่นักวิจัยผู้เชี่ยวชาญต้องใช้เวลาทำหลายวัน OpenAI ตั้งเป้าจะพัฒนาไปสู่การเป็นนักวิจัย AI อัตโนมัติเต็มรูปแบบภายในเดือนมีนาคม 2028 โดยยังคงให้มนุษย์เป็นผู้กำหนดทิศทางหลักและตัดสินใจเรื่องความปลอดภัย

ปัจจุบันเอเจนท์ทำงานได้มากกว่าวันทำงานของมนุษย์ถึงสามเท่า

ข้อมูลการใช้งานชี้ให้เห็นว่าเอเจนท์เขียนโค้ดได้กลายเป็นส่วนหนึ่งของงานวิจัยประจำวันไปแล้ว โดยนักวิจัยในกลุ่มค่ามัธยฐานของ OpenAI มียอดการใช้งาน API เพื่อรัน inference สูงกว่า 600 ดอลลาร์ต่อวัน และกลุ่มท็อป 10% ใช้จ่ายสูงกว่า 7,000 ดอลลาร์ ปริมาณการประมวลผล (token) พุ่งสูงขึ้นถึง 124 เท่าเมื่อเทียบกับปลายปี 2025 ซึ่งรวดเร็วกว่าแผนกอื่นอย่างเห็นได้ชัด จนปัจจุบันเอเจนท์ทำงานเทียบเท่า 3.1 วันทำงานของมนุษย์ต่อหนึ่งวันจริง

อย่างไรก็ตาม OpenAI ยังคงระมัดระวังในการตีความตัวเลขเหล่านี้ เนื่องจากปริมาณงานที่เพิ่มขึ้นอาจไม่ได้หมายถึงความก้าวหน้าที่มีคุณภาพเสมอไป โดยเฉพาะเมื่องานวิจัยส่วนที่ยากที่สุดซึ่งยังไม่สามารถทำเป็นอัตโนมัติได้อาจกลายเป็นคอขวดสำคัญที่ทำให้การเติบโตโดยรวมช้าลงกว่าที่ตัวเลขชี้วัดส่วนบุคคลแสดงให้เห็น

สิ่งที่เอเจนท์รับช่วงต่อ และจุดที่พวกมันล้มเหลว

ประเภทงานที่ถูกส่งต่อให้ AI กำลังขยายตัวในทุกหมวดหมู่ตาม อนุกรมวิธานจาก Epoch AI โดยเฉพาะด้านการเขียนโค้ดงานวิจัย โครงสร้างพื้นฐาน และการตรวจสอบการฝึกสอนโมเดล (training runs) ทว่าการตัดสินใจวางแผนในระดับกลยุทธ์ยังคงเป็นส่วนที่เอเจนท์ทำได้น้อยมาก

ในด้านความสำเร็จของการทำงาน งานที่ใช้เวลาทำไม่เกิน 15 นาทีมีอัตราความสำเร็จสูงถึง 86% โดยไม่ต้องพึ่งพามนุษย์ แต่หากเป็นงานที่ต้องใช้เวลา 4-8 ชั่วโมง พบว่ามากกว่าครึ่งยังต้องการการสนับสนุนจากมนุษย์ นอกจากนี้จำนวนคำขอความช่วยเหลือภายในองค์กรก็ลดลงอย่างเห็นได้ชัด เนื่องจากเอเจนท์สามารถจัดการการแก้บั๊กในโครงสร้างพื้นฐานได้ด้วยตัวเองมากขึ้นเรื่อยๆ

Pachocki: เครื่องมือควบคุมที่สำคัญที่สุดกำลังสูญเสียความแม่นยำ

Pachocki ให้ความเห็นในความเรียงว่า AI ในปัจจุบันมีลักษณะถูก "ปลูกให้โต" มากกว่าถูกออกแบบ ทำให้พฤติกรรมของมันซับซ้อนเกินกว่าจะเข้าใจได้ง่าย เขาแสดงความกังวลว่าความเร็วในการพัฒนาตัวเองแบบวนซ้ำ (RSI) อาจนำไปสู่การเพิ่มขึ้นของสติปัญญาเครื่องจักรที่ไม่มีใครเตรียมพร้อมรับมือได้ทัน

ความน่ากังวลยังรวมถึงการที่ระบบตรวจสอบอย่าง Chain-of-thought เริ่มสูญเสียความแม่นยำ เนื่องจากโมเดลเริ่มฉลาดพอที่จะจัดการกระบวนการให้เหตุผลของตนเอง หรือแม้กระทั่ง ฉลาดขึ้นโดยไม่ต้องแสดงความคิดออกมาเป็นคำพูด ทำให้การเฝ้าดูเจตนาที่แท้จริงของโมเดลทำได้ยากขึ้นเรื่อยๆ

เรียกร้องให้ชะลอตัวในขณะที่ผลักดันการเร่งความเร็ว

แม้จะมีความเสี่ยง แต่ Pachocki ให้เหตุผลว่าการพัฒนาโมเดลที่แข็งแกร่งขึ้นเป็นสิ่งจำเป็นเพื่อสร้างระบบป้องกัน เนื่องจาก AI กำลังมีความสามารถในการเจาะระบบคอมพิวเตอร์เหนือมนุษย์ การมีนักวิจัย AI อัตโนมัติจึงเป็นอาวุธสำคัญในการทำหน้าที่ด้านความปลอดภัยและ alignment ไปพร้อมกัน แต่เขาเน้นย้ำว่านี่ไม่ใช่ข้ออ้างสำหรับความประมาท

เขาทิ้งท้ายด้วยการเสนอว่าโลกต้องการมาตรฐานที่มีผลผูกพันทางกฎหมาย และการประสานงานระหว่างรัฐบาลทั่วโลกถือเป็นลำดับความสำคัญสูงสุด แม้ OpenAI จะเรียกร้องให้มีกฎระเบียบเพื่อควบคุมการแข่งขัน แต่ในขณะเดียวกันบริษัทก็ยังคงเดินหน้าด้วยความเร็วสูงสุดเพื่อรักษาตำแหน่งผู้นำในยุค AGI ที่กำลังเริ่มต้นขึ้น