42 นักคณิตศาสตร์ระดับโลกเตือนภัย AI เสี่ยงทำมนุษย์สูญพันธุ์

นี่คือเหตุการณ์ "Don't Look Up" ในชีวิตจริงหรือไม่? เมื่อกลุ่มนักคณิตศาสตร์ชั้นนำออกมาเตือนถึงความเสี่ยงด้านการดำรงอยู่ (existential risks) จาก AI ขั้นสูง โดยใน จดหมายเปิดผนึก ถึงประธาน Royal Society สมาชิกผู้ทรงคุณวุฒิด้านคณิตศาสตร์ 42 ท่าน ได้เร่งเร้าให้สมาคมวิทยาศาสตร์แห่งสหราชอาณาจักรแจ้งเตือนรัฐบาลและสื่อมวลชนอย่างเร่งด่วน ซึ่งผู้ลงนามครั้งนี้รวมถึงผู้ชนะรางวัล Fields Medal อย่าง Martin Hairer, Peter Scholze และ Wendelin Werner โดยที่ทุกคนไม่มีส่วนเกี่ยวข้องกับบริษัท AI ใดๆ

เพียงภายในเวลา 3 เดือน โมเดล AI ชั้นนำจาก OpenAI และ Anthropic สามารถแก้ปัญหาการวิจัยที่ค้างคามานานได้สำเร็จ รวมถึง หนึ่งในเจ็ดปัญหา Millennium Problem ที่ขึ้นชื่อว่ายากที่สุดในโลก (และปัญหาที่สองมีแนวโน้มจะตามมาในไม่ช้า) จดหมายระบุว่าปัจจุบันโมเดลเหล่านี้ทำงานในระดับเดียวกับนักคณิตศาสตร์ที่เป็นมนุษย์ชั้นนำในหลายสาขาวิชา และมีโอกาสสำคัญที่พวกมันจะพัฒนาความสามารถจนเหนือมนุษย์ภายในระยะเวลาอันสั้น

อย่างไรก็ตาม ผลกระทบต่อวงการคณิตศาสตร์ ไม่ใช่ประเด็นหลักที่น่ากังวลที่สุดในจดหมายฉบับนี้ เพราะกลุ่มนักคณิตศาสตร์เตือนว่าเราต้องสันนิษฐานว่าอัตราการก้าวกระโดดของความสามารถ AI ในด้านอื่นๆ จะเกิดขึ้นในลักษณะเดียวกัน ไม่ว่าจะเป็นด้านความมั่นคงปลอดภัยไซเบอร์ การควบคุมอาวุธแบบอัตโนมัติ การพัฒนาอาวุธชีวภาพและเคมี รวมถึงการบิดเบือนข้อมูลแบบเจาะจงเป้าหมาย

พวกเขาเน้นย้ำว่า การคาดการณ์จากห้องแล็บ AI ที่ประเมินความเสี่ยงต่อการสูญสิ้นเผ่าพันธุ์ไว้สูงกว่าร้อยละสิบ จะต้องไม่ถูกมองข้ามว่าเป็นเพียงการสร้างกระแส (hype) พร้อมทิ้งท้ายด้วยคำเตือนที่น่ากังวลว่า กว่าที่สถานการณ์ความเสี่ยงจะปรากฏชัดเจนต่อสาธารณชนในวงกว้าง มันก็อาจจะสายเกินกว่าที่จะดำเนินการแก้ไขได้ทันเวลา