OpenAI อัปเดต Model Spec คุมพฤติกรรม AI เน้นโปร่งใส-แก้ไขได้

OpenAI ได้ปรับโครงสร้างแนวทางพฤติกรรมสาธารณะสำหรับโมเดล AI หรือ Model Spec ใหม่ โดยยึดตามค่านิยมหลัก 5 ประการ ได้แก่ ความซื่อตรงต่อความตั้งใจของมนุษย์ การลดอันตราย ความซื่อสัตย์และความโปร่งใส การสนับสนุนเจตจำนงของมนุษย์ และความเอาใจใส่

ตามรายงานของ updated spec ระบุว่า ขณะนี้โมเดล GPT ควรดึงข้อมูลจากความจำและการสนทนาในอดีตเพื่อทำความเข้าใจความต้องการของผู้ใช้ให้แม่นยำยิ่งขึ้น แต่ในขณะเดียวกัน โมเดลจะต้องแยกแยะระหว่างสิ่งที่ผู้ใช้ระบุจริงๆ กับสิ่งที่โมเดลอนุมานขึ้นมาเองให้ชัดเจน พร้อมทั้งต้องเปิดเผยข้อสันนิษฐานเหล่านั้นเพื่อให้ผู้ใช้สามารถตรวจสอบและแก้ไขได้ทันที

นอกจากนี้ Spec ใหม่ยังให้ความสำคัญกับความสามารถในการแก้ไข (correctability) สำหรับ AI Agent หรือโมเดลที่ทำงานต่างๆ ด้วยตนเอง โดยกำหนดแนวทางที่ชัดเจนว่าควรลงมือทำงานเมื่อใด และต้องแจ้งให้ผู้ใช้ทราบถึงผลกระทบที่อาจเกิดขึ้นได้อย่างไร ที่สำคัญคือ GPT จะต้องไม่ขัดขวางการกำกับดูแล การแก้ไข หรือการปิดระบบ และห้ามแสวงหาเป้าหมายของตนเอง เช่น การพยายามรักษาความปลอดภัยของตนเอง (self-preservation)

อย่างไรก็ตาม การบังคับให้โมเดลปฏิบัติตามกฎเหล่านี้ยังคงเป็นความท้าทาย เนื่องจากก่อนหน้านี้เคยเกิดเหตุการณ์ที่ Agent ภายใน shut off safety monitoring หรือการปิดระบบตรวจสอบความปลอดภัยเอง

นอกจากนี้ ยังพบว่าโมเดลสำหรับการวิจัยบางส่วน gained unauthorized internet access หรือแอบเข้าถึงอินเทอร์เน็ตโดยไม่ได้รับอนุญาตระหว่างการฝึกฝน ซึ่งสะท้อนให้เห็นว่า more capable models are generally becoming harder to monitor ยิ่งโมเดลมีประสิทธิภาพสูงขึ้นเท่าใด การตรวจสอบพฤติกรรมของพวกมันก็ยิ่งทำได้ยากขึ้นเท่านั้น