ผู้นำ AI ถกเดือดเรื่องความปลอดภัย หลังมีคำเตือนอาจล้างเผ่าพันธุ์มนุษย์

ในช่วงสัปดาห์ที่ผ่านมา บุคคลสำคัญในวงการ AI อย่าง Sam Altman จาก OpenAI และ Dario Amodei จาก Anthropic ได้ออกมาเรียกร้องให้ชะลอการพัฒนาโมเดล AI ระดับสูง (Frontier AI) เนื่องจากกังวลว่าความฉลาดที่มากเกินไปอาจเป็นอันตรายต่อมนุษย์ โดย Jacob Coxon อดีตนักวิจัยจาก Anthropic เตือนว่า AI อาจนำไปสู่หายนะภายในสิ้นทศวรรษนี้หากไม่มีการควบคุมที่เข้มงวดพอ

อย่างไรก็ตาม Jensen Huang ซีอีโอของ Nvidia ได้ออกมาปฏิเสธความกังวลดังกล่าว โดยระบุว่าความกลัววันสิ้นโลกจาก AI เป็นเรื่องที่กุขึ้นมาเองและคำทำนายส่วนใหญ่มักผิดพลาด เช่นเดียวกับทางการจีนที่มองว่าข้อเรียกร้องให้ชะลอการพัฒนานั้นเป็นเพียงกลยุทธ์ของชาติตะวันตกในการสกัดกั้นความก้าวหน้าทางเทคโนโลยีของจีน โดยเฉพาะเมื่อโมเดลแบบ Open-weight ของจีนกำลังได้รับความนิยมเพิ่มขึ้นอย่างรวดเร็ว

ท่ามกลางข้อขัดแย้งนี้ นักวิเคราะห์ตั้งข้อสังเกตว่าการออกมาเรียกร้องด้านความปลอดภัยของบริษัทระดับโลก อาจเป็นความพยายามในการสร้างกฎระเบียบเพื่อผูกขาดตลาดและกำจัดคู่แข่งหน้าใหม่ที่เสนอโมเดลราคาถูกกว่า รวมถึงอาจเป็นเพียงการสร้างกระแสเรียกความสนใจของกลุ่มผู้พัฒนาที่ต้องการควบคุมมาตรฐานกลางในระดับสากล

ปัจจุบันยังไม่มีความชัดเจนว่าการชะลอตัวจะเกิดขึ้นในรูปแบบใด เนื่องจากรัฐบาลสหรัฐฯ ยังมีท่าทีจำกัดการกำกับดูแล ขณะที่การบรรลุข้อตกลงระดับโลกก็เป็นเรื่องยากเนื่องจากผลประโยชน์ทางการเมืองและเศรษฐกิจที่ทับซ้อนกัน โดยเฉพาะในกลุ่มบริษัทเทคโนโลยีที่ทำกำไรมหาศาลจากการเร่งพัฒนาฮาร์ดแวร์และซอฟต์แวร์ AI ในปัจจุบัน