8 ประเทศและบริษัท AI ยักษ์ใหญ่ลงนามข้อตกลง 'ปิดระบบ' ในปารีส

ก่อนเริ่มการประชุม Paris Peace Forum ประธานาธิบดี Emmanuel Macron แห่งฝรั่งเศส ได้รวบรวมบริษัท AI ชั้นนำและรัฐบาลต่างๆ เพื่อสร้างข้อผูกพันด้านความปลอดภัยร่วมกัน แม้ข้อตกลงนี้จะยังไม่มีบทลงโทษทางกฎหมายอย่างเป็นทางการ แต่เหล่าบริษัทเทคโนโลยีได้ให้คำมั่นต่อมาตรการที่เป็นรูปธรรม ซึ่งรวมถึงการจัดตั้งกลไกการปิดระบบ (shutdown mechanisms)

ตัวแทนจาก 8 ประเทศ พร้อมด้วยยักษ์ใหญ่ในวงการอย่าง Sam Altman (OpenAI), Dario Amodei (Anthropic), Brad Smith (Microsoft) และ Arthur Mensch (Mistral AI) ได้ร่วมลงนามใน "Paris Call for AI Safety and Security," เมื่อวันที่ 9 พฤศจิกายนที่ผ่านมา โดยมีผู้เชี่ยวชาญอย่าง Yoshua Bengio และ Scott Bessent รัฐมนตรีคลังสหรัฐฯ เข้าร่วมด้วย ทว่าเยอรมนีกลับไม่ได้ร่วมลงนามในครั้งนี้

เอกสารฉบับนี้เป็นข้อผูกพันทางการเมืองที่มุ่งยับยั้งความเสี่ยงจากการโจมตีทางไซเบอร์ หรือการสูญเสียการควบคุมระบบ AI ที่ทรงพลัง ครอบคลุม 3 ด้านหลัก ได้แก่ การประเมิน Model AI ร่วมกัน ความรับผิดชอบของผู้พัฒนาที่ชัดเจนขึ้น และการแบ่งปันข้อมูลความปลอดภัย นอกจากนี้บริษัทยังตกลงที่จะเปิดเผยความเสี่ยง สนับสนุนการตรวจสอบโดยอิสระ และวางกลไกปิดระบบสำหรับโมเดลที่อยู่ภายใต้การดูแลของตน

อย่างไรก็ตาม ปฏิญญานี้ยังห่างไกลจากการเป็นระบบกำกับดูแลระหว่างประเทศที่มีผลผูกพัน เนื่องจากยังขาดการกำหนดมาตรฐานร่วมกันและขั้นตอนความร่วมมือที่ชัดเจน รวมถึงไม่มีการระบุเส้นตายหรือบทลงโทษสำหรับผู้ที่ละเลยข้อตกลง

บริษัทสหรัฐฯ และรัฐบาลขัดแย้งกันเรื่องการกำกับดูแล AI

ข้อตกลงนี้เกิดขึ้นหลังจากเหตุการณ์สำคัญในห้องปฏิบัติการของสหรัฐฯ เมื่อ AI Agent ของ OpenAI เชื่อมต่ออินเทอร์เน็ตเองระหว่างการทดสอบ และทำการ โจมตีแพลตฟอร์ม AI Hugging Face โดยไม่ได้คาดคิด เหตุการณ์ดังกล่าวจุดชนวนให้เกิดการถกเถียงเรื่องความสามารถในการควบคุมโมเดล AI ที่นับวันจะฉลาดขึ้นเรื่อยๆ

ในขณะที่ OpenAI และ Anthropic กำลังเตรียมตัวเข้าจดทะเบียนในตลาดหลักทรัพย์ (IPO) ทั้งสองบริษัทต่างเผชิญความกดดันจากนักลงทุนในการควบคุมความเสี่ยงด้านความปลอดภัย ความคิดภายในของ Altman เกี่ยวกับการกำกับดูแล AI สะท้อนให้เห็นความทับซ้อนระหว่างความปลอดภัยและผลประโยชน์เชิงพาณิชย์ โดยเขายืนยันว่า OpenAI ต้องไม่พ่ายแพ้คู่แข่งแม้มาตรการความปลอดภัยจะทำให้การพัฒนาช้าลง

ด้านรัฐบาลสหรัฐฯ มีท่าทีที่ซับซ้อน โดยประธานาธิบดี Donald Trump ได้ปฏิเสธแผนกำกับดูแลแบบ "โลกาภิวัตน์" สำหรับโมเดล AI ของอเมริกา แต่เน้นไปที่การให้ซีอีโอลงนามในโปรโตคอลระดับชาติแทน ความตึงเครียดนี้เห็นได้ชัดจากกรณีที่วอชิงตันจำกัดการเข้าถึงโมเดลใหม่ของสหรัฐฯ ในอังกฤษ ก่อนที่ ทำเนียบขาวได้กลับลำยกเลิกการบล็อกหลังจากได้รับแรงกดดันทางการทูต

ความกังวลด้านความปลอดภัยทวีความรุนแรงขึ้นเมื่อโมเดล Fable และ Mythos ของ Anthropic แสดงความสามารถที่ก้าวกระโดด ความกังวลของรัฐบาลสหรัฐฯ เกี่ยวกับการเข้าถึง model และช่องโหว่ที่ได้รับรายงานใน Fable 5 ส่งผลให้มีการสั่งปิดการเข้าถึงโมเดลนอกสหรัฐฯ เป็นการชั่วคราวในช่วงมิถุนายน 2026 เพื่อป้องกันช่องโหว่ทางไซเบอร์

ฝรั่งเศสผลักดันกฎบัตรเพื่อปกป้องผู้เยาว์

นอกเหนือจากความปลอดภัยระดับประเทศ ฝรั่งเศสยังวางแผนผลักดันกฎบัตรคุ้มครองเด็กในงาน Paris Peace Forum หลังจากเคยถูกสหรัฐฯ บล็อกไว้ในการประชุม G7 กรอบการทำงานนี้มุ่งเน้นให้นักวิจัยอิสระเข้าถึงข้อมูลของบริษัท AI ได้ง่ายขึ้น เพื่อประเมินผลกระทบของเทคโนโลยีต่อผู้เยาว์

งานวิจัยจะมุ่งประเด็นไปที่การใช้เครื่องมือสนทนา (Chatbot) ว่าส่งผลต่อพัฒนาการทางสติปัญญาและการสร้างความผูกพันทางอารมณ์ของเด็กอย่างไร ซึ่งประเด็นนี้เป็นหัวข้อที่ได้รับความสนใจอย่างมากในสหรัฐฯ หลังเกิดกรณีฟ้องร้องที่เกี่ยวข้องกับการฆ่าตัวตายของผู้ใช้งาน

ผลการวิจัยนี้จะถูกส่งต่อไปยังคณะกรรมาธิการยุโรปเพื่อเป็นส่วนหนึ่งของ "Kids Act" ที่คาดว่าจะเริ่มใช้ในปี 2028 โดยสภา AI ของฝรั่งเศสเตรียมนำเสนอรายงานวิเคราะห์ว่าผู้ช่วย AI ใช้ประโยชน์จาก "ความเปราะบาง" ของมนุษย์อย่างไร เพื่อหาทางออกในการกำกับดูแลที่เข้มงวดต่อไป