ออสเตรเลียเตรียมออกกฎหมายคุมเข้ม Frontier AI บังคับตรวจสอบอิสระ

รัฐบาลออสเตรเลียภายใต้การนำของนายกรัฐมนตรี Anthony Albanese ประกาศเตรียมใช้กฎหมายความปลอดภัยแบบบังคับแก่บริษัท frontier AI ที่ดำเนินงานในประเทศเป็นครั้งแรก โดย rules นี้จะมุ่งเน้นไปที่โมเดลที่มีความก้าวหน้าสูงสุดและมีระดับความเสี่ยงสูง ภายใต้วาระ "AI in Australia's Interests" ของรัฐบาล

หน่วยงานกำกับดูแลแห่งใหม่จะทำงานร่วมกับ Australian AI Safety Institute เพื่อบังคับใช้กฎระเบียบและกำหนดบทลงโทษที่รุนแรงหากมีการละเมิดข้อตกลง โดยบริษัทที่พัฒนา frontier model จะต้องเปิดให้มีการตรวจสอบ (audit) อย่างเป็นอิสระ พร้อมทั้งรักษามาตรฐานความปลอดภัยอย่างต่อเนื่องและเผยแพร่กรอบการทำงานด้านความปลอดภัยให้สาธารณะรับทราบ

นอกจากนี้ บริษัทต้อง report security incidents to the government immediately หากเกิดเหตุการณ์ไม่พึงประสงค์ด้านความปลอดภัย ซึ่งข้อกำหนดนี้มีวัตถุประสงค์เพื่อตรวจจับสัญญาณเตือนภัยล่วงหน้าในกรณีที่ AI agents that go off the rails หรือทำงานนอกเหนือการควบคุม

นายกรัฐมนตรี Albanese พร้อมด้วยรองนายกรัฐมนตรี Richard Marles และคณะรัฐมนตรีระบุว่า การวางแนวกั้นความปลอดภัย (safety guardrails) ภายในประเทศเป็นสิ่งจำเป็นก่อนที่จะเริ่มการเจรจาระดับนานาชาติ เพื่อปกป้องผลประโยชน์ของชาติและสร้างความเชื่อมั่นให้แก่นักลงทุน โดยตั้งเป้าให้ AI สร้างประโยชน์ต่อเศรษฐกิจและระบบสาธารณสุขอย่างยั่งยืน ซึ่งรายละเอียดเพิ่มเติมจะมีการประกาศอีกครั้งหลังเสร็จสิ้นกระบวนการรับฟังความคิดเห็น