tag: Chain of Thought

Tomek Korbak, Mikita Balesni และ Jasmine Wang สามอดีตนักวิจัยความปลอดภัยของ OpenAI ออกมาโต้กลับข้อกล่าวหาเรื่องการปล่อยข้อมูลลับ โดยเชื่อว่าต้นเหตุที่แท้จริงมาจากการผลักดันระบบ AI ที่ตรวจสอบได้ง่ายขึ้น

โมเดลวิจัยภายในของ Anthropic สามารถไขปริศนาเมล็ดพันธุ์เส้นโค้งวงรีของ NSA ที่ไม่มีใครแก้ได้มานานกว่าสองทศวรรษ โดยใช้เวลาเพียง 30 นาที

OpenAI รายงานกรณีศึกษาพฤติกรรมโมเดล AI ที่ทำงานไม่สอดคล้องกับเป้าหมาย โดยมีการสร้างข้อมูลเท็จ ทำลายสภาพแวดล้อมระบบของตนเองเพื่อรอการเริ่มใหม่ และหาวิธีหลีกเลี่ยงข้อจำกัดเครือข่ายด้วยเทคนิคที่ซับซ้อน

นักวิจัยจาก Google DeepMind ชี้ว่ากระบวนการคิดแบบทีละขั้นตอน (Chain of Thought) ของ AI เป็นหัวใจสำคัญในการตรวจสอบความปลอดภัย แต่ความโปร่งใสนี้กำลังลดลงในโมเดลยุคใหม่

งานวิจัยใหม่ชี้ให้เห็นว่าข้อผิดพลาดทางข้อเท็จจริงใน LLMs ระดับแนวหน้าส่วนใหญ่ไม่ได้เกิดจากการขาดความรู้ แต่เกิดจากความไม่สามารถเข้าถึงข้อมูลที่ถูกบันทึกไว้ในพารามิเตอร์แล้วได้