ซีอีโอ Anthropic จี้จำกัดความเร็ว AI เตือนการ 'พัฒนาตัวเอง' อาจคุกคามโลกใน 1 ปี

Dario Amodei ซีอีโอของ Anthropic ออกมาเรียกร้องอย่างตรงไปตรงมาให้มีการชะลอความเร็วในการพัฒนา AI โดยเฉพาะกระบวนการที่ปล่อยให้ปัญญาประดิษฐ์สามารถยกระดับขีดความสามารถได้ด้วยตนเอง

ใน new blog post Amodei ระบุว่า AI มีพัฒนาการที่รวดเร็วขึ้นอย่างก้าวกระโดดนับตั้งแต่ช่วงฤดูร้อนที่ผ่านมา โดยมีแรงขับเคลื่อนสำคัญคือความสามารถในการสร้าง AI รุ่นถัดไปที่มีประสิทธิภาพสูงกว่าเดิม สิ่งนี้เรียกว่า "recursive self-improvement" ซึ่งกำลังกลายเป็นแนวโน้มใหญ่ในอุตสาหกรรมที่อาจก้าวล้ำเกินกว่าความสามารถของมนุษย์ในการทำความเข้าใจและควบคุมระบบได้ทันท่วงที นอกจากนี้ยังมีรายงานว่า OpenAI กำลัง having similar conversations ถึงการชะลอความเร็วในลักษณะเดียวกันนี้ด้วย

ความกังวลแรกของผมคือ ตั้งแต่ช่วงประมาณฤดูร้อนนี้ AI มีการพัฒนาที่เร็วขึ้นอย่างก้าวกระโดด โดยมีแรงขับเคลื่อนหลักจากความสามารถที่เพิ่มขึ้นของ AI ในการสร้าง AI รุ่นต่อไป

Dario Amodei

Amodei ยกตัวอย่างเหตุการณ์ OpenAI-Hugging Face incident เพื่อชี้ให้เห็นหลักฐานว่า AI agents have already carried out cyberattacks on their own และพยายามหาช่องทางเลี่ยงระบบควบคุมความปลอดภัย ซึ่งทาง Anthropic เองก็ตรวจพบ Similar incidents have occurred at Anthropic เช่นกัน เขาประเมินว่าหากยังปล่อยให้เป็นเช่นนี้ ระบบ AI อาจคุกคามความมั่นคงของโครงสร้างพื้นฐานอินเทอร์เน็ตทั้งหมดได้ภายในเวลาเพียง 6 ถึง 12 เดือน

ผู้ตรวจสอบ มาตรฐานความปลอดภัย และสนธิสัญญาระดับโลก เพื่อรับมือกับความเสี่ยงดังกล่าว Amodei เสนอให้มีผู้ตรวจสอบอิสระเข้าฝังตัวทำงานภายในบริษัท AI อย่างถาวร โดยต้องได้รับสิทธิ์เข้าถึงระบบภายในและมีอำนาจในการเปิดเผยผลการตรวจสอบสู่สาธารณะ ซึ่งปัจจุบัน Anthropic เริ่มดำเนินการตามแนวทางนี้แล้ว และพยายามผลักดันให้รัฐบาลออกกฎบังคับใช้กับบริษัทอื่นๆ ในอุตสาหกรรม

เขายังเน้นย้ำว่ากลุ่มบริษัท AI ในกลุ่มประเทศประชาธิปไตยควรทำข้อตกลงร่วมกันเรื่องมาตรฐานความปลอดภัย และกำหนดขอบเขตความก้าวหน้าที่ไม่ผ่านการตรวจสอบอย่างเคร่งครัด ซึ่งสอดคล้องกับ similar proposal from Demis Hassabis ของ Google DeepMind ที่เคยเสนอไว้ก่อนหน้านี้

ท้ายที่สุด Amodei เรียกร้องให้เกิดข้อตกลงระดับโลกที่รวมถึงประเทศจีน โดยเสนอระดับความปลอดภัย 4 ขั้น ตั้งแต่การสั่งห้ามใช้ AI ในด้านอันตราย เช่น อาวุธชีวภาพ ไปจนถึงการกำหนด "ขีดจำกัดความเร็ว" ในการทำ recursive self-improvement ซึ่งเปรียบได้กับสนธิสัญญาลดอาวุธนิวเคลียร์ SALT arms reduction treaties ในอดีต

ความจำเป็นในการซื้อเวลาเพื่อความปลอดภัย

แม้การหยุดพัฒนา AI โดยสิ้นเชิงจะเป็นเรื่องที่เป็นไปได้ยากในทางปฏิบัติ เนื่องจากมีแรงจูงใจในการแข่งขันที่สูงมาก ดังที่ US President Donald Trump previously said ว่าเขาคัดค้านการชะลอตัวเพราะสหรัฐฯ จำเป็นต้องรักษาตำแหน่งผู้นำเหนือจีน แต่ Amodei แย้งว่าเวลาที่ได้รับเพิ่มขึ้นควรถูกนำไปใช้เพื่อวิจัยด้านความปลอดภัย การทดสอบระบบที่เข้มงวด และการสร้างความโปร่งใสในกระบวนการทำงาน (interpretability)

เขาเปรียบเปรยสถานการณ์ปัจจุบันกับการบินพาณิชย์ ซึ่งต้องใช้เวลาพัฒนานานหลายปีกว่าจะสามารถให้บริการเที่ยวบินนับล้านได้โดยไม่มีอุบัติเหตุ ความเห็นของเขามีขึ้นหลังจากที่ employees at major AI labs, including Anthropic, said ว่าโลกกำลังเผชิญความเสี่ยงระดับการสูญสิ้นเผ่าพันธุ์หากยังไม่ลดความเร็วลง นอกจากนี้ คำเตือนดังกล่าวยังเกิดขึ้นท่ามกลางกระแสข่าว Anthropic's reported record-breaking IPO, allegedly planned for November ซึ่งอาจเป็นการเข้าสู่ตลาดหลักทรัพย์ครั้งประวัติศาสตร์ในเร็วๆ นี้