Anthropic ประกาศหนุนร่างกฎหมาย SB 53 ควบคุมความปลอดภัย AI

Anthropic ประกาศสนับสนุน SB 53 ซึ่งเป็นร่างกฎหมายของรัฐแคลิฟอร์เนียที่มุ่งควบคุมระบบ AI ทรงพลังที่สร้างขึ้นโดยผู้พัฒนา Frontier AI อย่าง Anthropic โดยเราได้ สนับสนุนมาอย่างยาวนาน ในการออกมาตรการควบคุมดูแล AI อย่างรอบคอบ การตัดสินใจครั้งนี้เกิดขึ้นหลังจากการพิจารณาบทเรียนจากความพยายามครั้งก่อนของแคลิฟอร์เนีย (SB 1047) อย่างถี่ถ้วน แม้เราจะเชื่อว่าความปลอดภัยของ Frontier AI ควรจัดการในระดับรัฐบาลกลางมากกว่าการใช้กฎระเบียบที่แตกต่างกันในแต่ละรัฐ แต่ความก้าวหน้าของ AI ที่รวดเร็วก็ไม่อาจรอการบรรลุข้อตกลงในวอชิงตันได้

ผู้ว่าการ Newsom ได้รวบรวม Joint California Policy Working Group ซึ่งเป็นกลุ่มนักวิชาการและผู้เชี่ยวชาญในอุตสาหกรรม เพื่อให้คำแนะนำด้านการกำกับดูแล AI โดยคณะทำงานได้สนับสนุนแนวทาง 'trust but verify' และร่างกฎหมาย SB 53 ของวุฒิสมาชิก Scott Wiener ได้นำหลักการนี้ไปใช้ผ่านข้อกำหนดในการเปิดเผยข้อมูล แทนที่จะใช้คำสั่งทางเทคนิคที่บังคับล่วงหน้าซึ่งเคยเป็นปัญหาในอดีต

สิ่งที่ SB 53 จะทำให้สำเร็จ

SB 53 กำหนดให้บริษัทขนาดใหญ่ที่พัฒนาระบบ AI ที่ทรงพลังที่สุดต้องปฏิบัติดังนี้:

• พัฒนาและเผยแพร่กรอบการทำงานด้านความปลอดภัย เพื่ออธิบายวิธีการจัดการ ประเมิน และบรรเทาความเสี่ยงขั้นร้ายแรง (catastrophic risks) ที่อาจก่อให้เกิดความสูญเสียต่อชีวิตจำนวนมากหรือความเสียหายทางการเงินมหาศาล
• เผยแพร่รายงานความโปร่งใสต่อสาธารณะ เพื่อสรุปการประเมินความเสี่ยงและขั้นตอนการดำเนินงานตามกรอบความปลอดภัยก่อนเริ่มใช้งานโมเดลใหม่ที่ทรงพลัง
• รายงานอุบัติการณ์ด้านความปลอดภัยที่สำคัญต่อรัฐภายใน 15 วัน รวมถึงเปิดเผยสรุปการประเมินความเสี่ยงขั้นร้ายแรงจากการใช้โมเดลภายในเป็นการลับ
• จัดให้มีการคุ้มครอง whistleblower (ผู้แจ้งเบาะแส) ที่ชัดเจน ครอบคลุมถึงการละเมิดข้อกำหนดและอันตรายต่อสาธารณสุขหรือความปลอดภัยจากความเสี่ยงขั้นร้ายแรง
• รับผิดชอบต่อสาธารณะตามข้อตกลงในกรอบการทำงาน หากไม่ปฏิบัติตามอาจต้องเผชิญโทษปรับทางการเงิน

ข้อกำหนดเหล่านี้จะช่วยให้แนวทางปฏิบัติที่ Anthropic และบริษัท Frontier AI อื่นๆ ดำเนินการอยู่แล้วมีสถานะเป็นทางการ โดย Anthropic ได้เผยแพร่ Responsible Scaling Policy ของเราเองเพื่อระบุรายละเอียดการประเมินความเสี่ยง นอกจากนี้เรายังออก system cards บันทึกขีดความสามารถของโมเดล ซึ่งบริษัทอื่นๆ อย่าง Google DeepMind, OpenAI และ Microsoft ก็ใช้แนวทางที่คล้ายกัน กฎหมายนี้จะช่วยสร้างสนามแข่งขันที่เท่าเทียมโดยมุ่งเน้นไปที่บริษัทขนาดใหญ่ และยกเว้นภาระกฎระเบียบให้กับสตาร์ทอัพและบริษัทขนาดเล็ก

ความโปร่งใสภายใต้ SB 53 จะส่งผลสำคัญต่อความปลอดภัยของ Frontier AI เนื่องจากหากไม่มีข้อกำหนดนี้ ห้องปฏิบัติการต่างๆ อาจถูกจูงใจให้ลดระดับมาตรฐานความปลอดภัยลงเพื่อการแข่งขันในตลาด แต่ด้วยกฎหมายฉบับนี้ ผู้พัฒนาจะสามารถแข่งขันกันได้โดยยังคงความโปร่งใสเกี่ยวกับขีดความสามารถของ AI ที่อาจส่งผลต่อความปลอดภัยสาธารณะ ทำให้การเปิดเผยข้อมูลเป็นสิ่งจำเป็นพื้นฐานไม่ใช่ทางเลือกอีกต่อไป

มองไปข้างหน้า

แม้ SB 53 จะเป็นรากฐานการกำกับดูแลที่แข็งแกร่ง แต่เรายังสามารถต่อยอดความก้าวหน้าในด้านต่างๆ ได้ ซึ่งเราพร้อมร่วมมือกับผู้กำหนดนโยบายในประเด็นดังต่อไปนี้:

• การทบทวนเกณฑ์พลังการประมวลผล (FLOPS) ที่ใช้ในการฝึก ซึ่งปัจจุบันอยู่ที่ 10^26 FLOPS แม้จะเป็นจุดเริ่มต้นที่ดีแต่ควรระวังความเสี่ยงที่โมเดลทรงพลังบางรุ่นอาจไม่ครอบคลุม
• การกำหนดให้ผู้พัฒนาระบุรายละเอียดการทดสอบและบรรเทาความเสี่ยงเพิ่มเติม เช่น การแบ่งปันวิจัยความปลอดภัยและบันทึกการทดสอบของ red team ร่วมกับพันธมิตร ผ่าน Frontier Model Forum เพื่อสร้างความแข็งแกร่งให้กับอุตสาหกรรม
• การปรับปรุงกฎระเบียบให้วิวัฒนาการตามเทคโนโลยี AI ที่ก้าวหน้า เพื่อรักษาสมดุลที่เหมาะสมระหว่างความปลอดภัยและนวัตกรรมใหม่ๆ

เราขอชื่นชมวุฒิสมาชิก Wiener และผู้ว่าการ Newsom สำหรับการเป็นผู้นำในการกำกับดูแล AI อย่างมีความรับผิดชอบ คำถามในปัจจุบันไม่ใช่การเลือกว่าจะกำกับดูแลหรือไม่ แต่คือการตัดสินใจว่าจะพัฒนามันอย่างรอบคอบตั้งแต่วันนี้ หรือจะรอแก้ไขตามหลังในวันที่สายเกินไป SB 53 คือเส้นทางสู่ทางเลือกแรกที่เราสนับสนุนให้แคลิฟอร์เนียผ่านร่างกฎหมายนี้ และพร้อมร่วมมือกับทั่วโลกเพื่อปกป้องผลประโยชน์สาธารณะควบคู่กับการรักษาความเป็นผู้นำด้าน AI ของอเมริกา