นักวิจัย DeepMind ลาออก ชี้การเร่งสร้าง ASI เป็นความไม่รับผิดชอบ

ความกังวลด้านความปลอดภัยของปัญญาประดิษฐ์ยังคงเป็นชนวนเหตุให้บุคลากรระดับสูงตัดสินใจลาออกอย่างต่อเนื่อง ล่าสุด Robert O'Callahan ผู้เชี่ยวชาญด้านเทคนิคจาก Google DeepMind ในนิวซีแลนด์ ได้ประกาศลาออกพร้อมระบุว่า "อัตราการเปลี่ยนแปลงในปัจจุบันของ AI นั้นสูงเกินไปมาก"

ก่อนหน้านี้ O'Callahan รับผิดชอบโครงการพัฒนาเครื่องมือออกแบบชิปที่ช่วยให้การประมวลผล AI รวดเร็วและมีราคาถูกลง ซึ่งเขาให้ความเห็นว่าในปัจจุบันเขาไม่สามารถหาเหตุผลมาสนับสนุนการทำงานในส่วนนี้ได้อีกต่อไป

เขานิยามความเสี่ยงที่เกิดจาก AI ระดับซูเปอร์ (Superintelligent AI หรือ ASI) ว่าเป็นสิ่งที่ "เกิดขึ้นจริงแต่ยังไม่แน่นอน" พร้อมวิจารณ์ว่าการตั้งเป้าพัฒนาไปสู่ ASI ในอนาคตอันใกล้นั้นถือเป็นความไม่รับผิดชอบโดยสันดาน นอกจากนี้เขายังแสดงความกังวลต่อประเด็นต่างๆ เช่น การยอมจำนนทางปัญญา, อาการทางจิตและความเหงาจาก AI, การรวมศูนย์อำนาจ, การหยุดชะงักทางเศรษฐกิจ, ความเสี่ยงด้านไซเบอร์ และการขาดความรับผิดชอบ

O'Callahan เชื่อมั่นว่าผลกระทบเชิงลบของ AI จะมีน้ำหนักมากกว่าประโยชน์ที่ได้รับ โดยเขาอ้างว่าเพื่อนร่วมงานใน DeepMind หลายคนมีความกังวลในทิศทางเดียวกัน แต่ส่วนใหญ่เลือกที่จะไม่แสดงความคิดเห็นต่อสาธารณะ ซึ่งปัจจุบันเขาต้องการเปลี่ยนไปทำงานที่มุ่งเน้นการสนับสนุนความเป็นมนุษย์อย่างชัดเจนแทน

ในการลาออกครั้งนี้ เขาได้อ้างถึงบทความ "If Anyone Builds It" โดย Eliezer Yudkowsky และ Nate Soares แม้จะไม่ได้ยืนยันข้ออ้างที่ว่า ASI จะนำไปสู่หายนะอย่างหลีกเลี่ยงไม่ได้ก็ตาม ทั้งนี้ผู้เขียนบทความดังกล่าวมีความเชื่อมโยงกับกลุ่ม ลัทธิการให้เพื่อผลลัพธ์ที่ดีที่สุด (effective altruism) ซึ่งเป็นแนวคิดที่กำลังเผชิญกับข้อโต้แย้งและถูก วิพากษ์วิจารณ์ อย่างหนัก

ขณะเดียวกันทาง Axios รายงานว่าบันทึกจากทำเนียบขาวได้จัดกลุ่มความเคลื่อนไหวนี้ว่าเป็นกลุ่มชายขอบที่มีลักษณะคล้ายลัทธิ พร้อมทั้งโจมตี Dario Amodei ซีอีโอของ Anthropic ว่าเป็นตัวแทนของกลุ่ม "doomerism" หรือพวกที่มองโลกในแง่ร้ายเกี่ยวกับ AI จนเกินไป