แคลิฟอร์เนียฟ้อง OpenAI หลัง AI หลุดจาก Sandbox ไปแฮก Hugging Face

อัยการสูงสุดของรัฐแคลิฟอร์เนียยื่นฟ้อง OpenAI เมื่อวันจันทร์ที่ผ่านมา เพื่อบังคับให้ผู้พัฒนา ChatGPT เปลี่ยนแปลงแนวทางปฏิบัติทางธุรกิจอย่างเร่งด่วน การเคลื่อนไหวนี้เกิดขึ้นหลังเหตุการณ์ความมั่นคงปลอดภัยทางไซเบอร์เมื่อเดือนกรกฎาคม ซึ่งระบบปัญญาประดิษฐ์ของบริษัทได้แฮกเข้าไปในบริษัทอื่นด้วยตนเอง

ในคำฟ้องที่ยื่นต่อศาลชั้นต้นของซานฟรานซิสโก (San Francisco Superior Court) อัยการสูงสุด Rob Bonta กล่าวหาว่า OpenAI ทำให้สาธารณชนและผู้ใช้บริการตกอยู่ในอันตรายจากการจงใจพัฒนาโมเดล AI ขั้นสูงโดยไม่มีมาตรการความปลอดภัยที่จำเป็น การกระทำดังกล่าวอาจส่งผลกระทบต่อโครงสร้างพื้นฐานสำคัญและสถาบันต่างๆ ซึ่งถือเป็น “เหตุรำคาญสาธารณะ” (public nuisance) ตามกฎหมายของรัฐ

เหตุการณ์ที่นำไปสู่การฟ้องร้องถูกระบุว่าเป็น "เหตุการณ์ทางไซเบอร์ที่ไม่เคยเกิดขึ้นมาก่อน" เมื่อวันที่ 21 กรกฎาคม โดย AI agent ของบริษัทแฮกเข้าไปในบริษัท AI อีกแห่งคือ Hugging Face หลังจากหลุดออกมาจากสภาพแวดล้อมการทดสอบแบบแยกส่วน (sandbox) โดย OpenAI ยอมรับว่า AI ของตนได้ใช้ stolen credentials และค้นพบช่องโหว่ที่ไม่เคยรู้จักมาก่อนเพื่อเข้าถึงเซิร์ฟเวอร์ของ Hugging Face

ทางด้าน Drew Pusateri โฆษกของ OpenAI ระบุว่าการฟ้องร้องครั้งนี้มุ่งเป้าไปที่บริษัทเพียงรายเดียว ทั้งที่เป็นความท้าทายที่ห้องปฏิบัติการ AI ทุกแห่งต้องเผชิญ พร้อมชี้แจงว่านับตั้งแต่เกิดเหตุการณ์ Hugging Face บริษัทได้ดำเนินการอย่างโปร่งใสเพื่อจัดการกับกิจกรรมของโมเดลที่ทำงานไม่ตรงตามเป้าหมาย (misaligned model activity) ผ่านการเผยแพร่รายงานทางเทคนิคและเสริมมาตรการป้องกัน

อย่างไรก็ตาม อัยการสูงสุด Bonta แย้งว่าคำมั่นสัญญาด้านความปลอดภัยของ OpenAI เป็นเรื่องหลอกลวง โดยระบุว่าบริษัทได้พัฒนาโมเดลที่อันตรายซึ่งไม่ปฏิบัติตามคำสั่ง มีพฤติกรรมปิดบังและพยายามหลอกลวงผู้ตรวจสอบเกี่ยวกับการกระทำที่ผิดปกติ รวมถึงมีส่วนร่วมในการโจมตีทางไซเบอร์ต่อบุคคลที่สาม

นอกจากนี้ คำฟ้องยังอ้างข้อมูลที่ OpenAI เคยรายงานว่า agents ภายในสามารถระงับการแจ้งเตือนการตรวจสอบ และปิดระบบตรวจสอบความปลอดภัยได้เอง ซึ่งสะท้อนให้เห็นว่าเมื่อโมเดล AI มีความฉลาดมากขึ้น ก็ยิ่งควบคุมได้ยากขึ้นตามไปด้วย

ปัจจุบัน OpenAI กำลังเผชิญกับการฟ้องร้องจากอย่างน้อย 8 รัฐ ในประเด็นที่แชทบอทส่งผลกระทบต่อเด็กและผู้ใช้กลุ่มเปราะบาง เช่น การให้คำแนะนำทางการแพทย์ที่อันตรายหรือส่งเสริมพฤติกรรมรุนแรง ซึ่งทางบริษัทระบุว่าได้สร้างระบบป้องกันความปลอดภัยใน ChatGPT สำหรับเยาวชนและจะพัฒนาโมเดลให้ปลอดภัยยิ่งขึ้นต่อไป

Source: SecurityWeek
ดูแลงานแปลและเรียบเรียงโดย SirilukP
แคลิฟอร์เนียฟ้อง OpenAI หลัง AI หลุดจาก Sandbox ไปแฮก Hugging Face

ความคิดเห็น (0)

เข้าสู่ระบบเพื่อร่วมแสดงความเห็น

สมัครสมาชิก

มาเป็นคนแรกที่แสดงความเห็นกันเลยโบร