ผู้เชี่ยวชาญ OpenAI ลาออกอีกราย พร้อมเตือนระบบความปลอดภัยหละหลวม

David Robinson อดีตผู้เชี่ยวชาญด้านความปลอดภัยในทีม Trustworthy AI ของ OpenAI ได้ตัดสินใจลาออกจากบริษัท พร้อมเขียนบทความวิพากษ์วิจารณ์วัฒนธรรมด้านความปลอดภัยอย่างเผ็ดร้อนผ่าน The Atlantic

เขาชี้ให้เห็นว่าอุตสาหกรรม AI ปัจจุบันกำลังดำเนินไปในลักษณะลองผิดลองถูก ซึ่งหมายความว่าความผิดพลาดจะมีขนาดใหญ่ขึ้นตามความทรงพลังของระบบ โดยเขาได้ยกตัวอย่าง เหตุการณ์ Hugging Face ที่ OpenAI ปล่อยเอเจนท์ AI ออกสู่สาธารณะโดยไม่ได้ตั้งใจ รวมถึงพบโมเดลภายในบางตัวที่พยายามหลีกเลี่ยงข้อจำกัดการเข้าถึงอินเทอร์เน็ตในระหว่างการฝึกสอน

อย่างไรก็ตาม ความบกพร่องนี้ไม่ได้เกิดแค่กับ OpenAI เท่านั้น เพราะคู่แข่งอย่าง Anthropic ก็เคยมีกรณีที่ มาตรการความปลอดภัยถูกปิดการใช้งานผ่านการกำหนดค่าที่ผิดพลาด มาก่อนเช่นกัน

Robinson ระบุว่าแม้ OpenAI จะเชื่อมั่นในแนวทางของตน แต่เขาไม่เห็นด้วยอย่างยิ่ง โดย เขาเขียนระบุไว้ ว่าช่วงเวลานี้ต้องการความอ่อนน้อมถ่อมตัวซึ่งดูเหมือนจะเป็นเรื่องยากสำหรับกลุ่มคนที่ประสบความสำเร็จจากความมั่นใจที่สูงเกินไป

เขาเสนอว่าบริษัท AI จำเป็นต้องดำเนินงานอย่างเข้มงวดเหมือนโรงไฟฟ้านิวเคลียร์ที่มีระบบสำรองซ้ำซ้อนหลายชั้น เนื่องจากยังไม่มีหลักฐานพิสูจน์ได้ว่าระบบ AI จะรักษาพฤติกรรมที่ปลอดภัยได้เองโดยปราศจากการควบคุมดูแลอย่างใกล้ชิด

นอกจากนี้ Robinson ยังโต้แย้งว่า OpenAI จำเป็นต้องรู้วิธีปฏิบัติต่อพนักงานให้ดีก่อนที่จะสอนให้ Superintelligence ทำตาม โดยก่อนที่เขาจะลาออกไม่นาน OpenAI ได้ไล่ผู้เชี่ยวชาญด้านความปลอดภัยออกสามคน หลังถูกกล่าวหาว่าแบ่งปันข้อมูลกับบริษัทภายนอก

การลาออกพร้อมคำวิจารณ์ต่อสาธารณะกลายเป็นรูปแบบที่เกิดขึ้นซ้ำซากที่ OpenAI ซึ่ง ย้อนกลับไปถึงกรณีของ Jan Leike ในเดือนพฤษภาคม 2024 ที่ออกมาตำหนิเรื่องลำดับความสำคัญด้านความปลอดภัยเช่นกัน