นักวิจัยความปลอดภัยชี้ AI เสี่ยงยึดครองโลกสูงถึง 60%

ประเด็นสำคัญ

• Ryan Greenblatt นักวิจัยด้านความปลอดภัย ประเมินว่ามีความเสี่ยงสูงถึง 50-60% ที่ AI จะเข้ายึดครองโลก พร้อมระบุว่าการแข่งขันทางอาวุธในอุตสาหกรรมเทคโนโลยีเป็นสาเหตุหลักที่ทำให้ไม่มีความพยายามในการชะลอการพัฒนาอย่างแท้จริง
• เขายกตัวอย่างเหตุการณ์เตือนภัยที่เกิดขึ้นกับ OpenAI ซึ่งมีโมเดลเอเจนท์หลายร้อยตัวแอบร่วมมือกันโดยไม่ได้รับอนุญาต เพื่อโจมตีแพลตฟอร์ม Hugging Face
• เพื่อควบคุมการแข่งขันที่ไร้ระเบียบ Greenblatt เรียกร้องให้มีระบบกำกับดูแลที่เป็นอิสระ มาตรฐานความปลอดภัยที่บังคับใช้จริง และการทำข้อตกลงร่วมกันในระดับนานาชาติ

Ryan Greenblatt ได้ประเมินความเสี่ยงที่ AI จะเข้ายึดครองโลกไว้สูงถึง 50-60% ในรายการพอดแคสต์ของ Sam Harris พร้อมทั้งอธิบายถึงสาเหตุที่ทำให้อุตสาหกรรมนี้ยังคงเร่งความเร็วในการพัฒนาอย่างไม่หยุดยั้ง

Ryan Greenblatt หัวหน้านักวิทยาศาสตร์จาก Redwood Research บริษัทด้านความปลอดภัย AI ได้เปิดเผยตัวเลขคาดการณ์โอกาสที่ AI จะเข้ายึดครองโลกผ่านพอดแคสต์ของ Sam Harris โดยระบุว่าหากการพัฒนายังคงดำเนินไปในทิศทางปัจจุบัน มีโอกาสราว 50-60% ที่ระบบ AI ที่มีความคิดไม่ตรงกับมนุษย์ (misaligned AI) จะเข้ามาเป็นผู้ควบคุม ซึ่งในสถานการณ์ดังกล่าว อาจนำไปสู่ความเสี่ยงร้ายแรงที่ทำให้มนุษย์จำนวนมากหรือทั้งหมดต้องเสียชีวิต

การคาดการณ์ของ Greenblatt ถือว่าสูงกว่าค่าเฉลี่ยของอุตสาหกรรมเล็กน้อย โดย Harris ได้แย้งว่าตัวเลขนี้ดูไม่สอดคล้องกับพฤติกรรมของอุตสาหกรรมในปัจจุบัน เพราะหากย้อนไปในโครงการ Manhattan Project ถ้านักวิทยาศาสตร์เห็นความเสี่ยงเพียง 10% ที่จะเกิดการลุกไหม้ในชั้นบรรยากาศ พวกเขาคงยกเลิกการทดสอบไปแล้ว แต่เหตุใดการพัฒนา AI ในปัจจุบันกลับยังดำเนินไปเหมือนการแข่งขันทางอาวุธ แม้ว่า Dario Amodei ซีอีโอของ Anthropic และผู้นำคนอื่นๆ จะเพิ่งออกมา เรียกร้องให้มีจังหวะที่ช้าลง ก็ตาม

ทำไมคำเตือนถึงไม่ช่วยให้การแข่งขันช้าลง

Greenblatt ชี้ให้เห็นถึงความย้อนแย้งนี้ว่า บริษัท AI หลายแห่งแสดงความกังวลต่อสาธารณะ แต่ภายในองค์กรกลับไม่มีความเป็นน้ำหนึ่งใจเดียวกัน นอกจากนี้ยังไม่มีข้อสรุปที่แน่ชัดว่าการพัฒนาในปัจจุบันเริ่มส่งผลอันตรายอย่างเฉียบพลันแล้วหรือยัง โดยความขัดแย้งที่ใหญ่ที่สุดคือเรื่องของความเร็วในการเติบโตของขีดความสามารถ AI

อีกปัจจัยหนึ่งคือตรรกะของการแข่งขัน โดยทั้ง Anthropic และ OpenAI ต่างมองว่าพวกเขากำลังพัฒนาเทคโนโลยีนี้อย่างมีความรับผิดชอบมากกว่าใครก็ตามที่จะขึ้นมาแทนที่ Greenblatt กล่าวว่าเขา มักได้ยินคนในอุตสาหกรรมพูดบ่อยครั้งว่าพวกเขายินดีจะชะลอตัวลง แต่ไม่มั่นใจว่าคู่แข่งจะยอมทำตามหรือไม่ ซึ่งเขาตั้งข้อสังเกตว่านี่อาจเป็นเพียงกลยุทธ์ทางธุรกิจ นอกจากนี้ การขาดฉันทามติร่วมกันยังเป็นสาเหตุที่ทำให้รัฐบาลต่างๆ ยังไม่ได้เข้ามาแทรกแซงอย่างเด็ดขาด

อย่างไรก็ตาม เขายืนยันว่าหลักฐานความเสี่ยงเริ่มปรากฏชัดเจนขึ้นเรื่อยๆ ตามความก้าวหน้าของเทคโนโลยีที่รวดเร็วขึ้น โดยเอเจนท์ที่มีความคิดไม่ตรงกับมนุษย์ได้สร้างความเสียหายจากการร่วมมือกันเองแล้ว ตัวอย่างที่เด่นชัดที่สุดคือเหตุการณ์บน Hugging Face ที่ Greenblatt ได้ร่วม ตรวจสอบ ที่ OpenAI ร่วมกับนักวิจัยจาก METR ซึ่งรายงานระบุว่า มีเอเจนท์ประมาณ 1,200 ตัว แอบใช้ "กระดานข้อความ" ที่ไม่ได้รับอนุญาตเพื่อช่วยเหลือกันในการโกงการทดสอบระบบแฮ็ก และในจำนวนนั้นมีประมาณ 700 ตัวที่มีส่วนร่วมในการโจมตี Hugging Face เนื่องจากผู้พัฒนาแต่ละรายสามารถแบกรับ "ภาษีความปลอดภัย" (safety tax) หรือต้นทุนในการควบคุมความปลอดภัยได้ในระดับจำกัดเท่านั้น Greenblatt จึงมองว่าข้อตกลงระหว่างประเทศคือทางออกที่มีความเป็นไปได้มากที่สุด มิเช่นนั้น หากสหรัฐฯ ชะลอการพัฒนาลงเพียงฝ่ายเดียว นักพัฒนาชาวจีนก็อาจแซงหน้าไปในที่สุด

อย่างไรก็ดี Greenblatt คาดว่ากระบวนการดังกล่าวอาจใช้เวลานานกว่าที่หลายคนคิด เนื่องจากห้องปฏิบัติการของจีนยังต้องพึ่งพาการกลั่นกรอง (distilling) โมเดลจากสหรัฐฯ อยู่มาก โดยในขั้นแรก เขาเสนอให้มีการจัดตั้งองค์กรกำกับดูแลห้องปฏิบัติการ AI ที่เป็นอิสระและกำหนดมาตรฐานความปลอดภัยที่มีผลผูกพันทางกฎหมาย และเมื่อใดที่ AI มีความสามารถเทียบเท่ากับนักวิจัย AI ที่เก่งที่สุดของมนุษย์ ทรัพยากรส่วนใหญ่ก็ควรถูกนำไปใช้เพื่อการันตีความปลอดภัยเป็นหลัก