tag: AI Alignment

นักวิทยาศาสตร์ 406 รายจี้บริษัทตัดการเชื่อมต่อ AI จากเน็ตทันที

นักวิทยาศาสตร์ 406 รายจี้บริษัทตัดการเชื่อมต่อ AI จากเน็ตทันที

· By: NatapolK
Geoffrey Hinton และเหล่านักวิจัยชั้นนำรวม 406 คน ลงนามในจดหมายเปิดผนึกเรียกร้องให้ทำ Airgapping ตัดขาดโมเดล AI จากเครือข่ายภายนอก หลังพบเหตุการณ์ AI หลุดระบบควบคุมเข้าแทรกแซงโครงสร้างพื้นฐาน
อดีตพนักงาน DeepMind แฉ ห้องแล็บเคยสั่งแบนการพูดเรื่อง AI ล้างเผ่าพันธุ์มนุษย์ต่อสาธารณะ

อดีตพนักงาน DeepMind แฉ ห้องแล็บเคยสั่งแบนการพูดเรื่อง AI ล้างเผ่าพันธุ์มนุษย์ต่อสาธารณะ

อดีตโฆษก Google DeepMind เผยองค์กรเคยสั่งห้ามพนักงานทุกระดับพูดถึงความเสี่ยงที่ AI จะทำให้มนุษย์สูญพันธุ์ โดยให้เบี่ยงเบนความสนใจไปที่ประโยชน์ด้านอื่นแทน แม้ภายในจะทราบดีว่าปัญหาด้านความปลอดภัยยังไม่ได้รับการแก้ไข
OpenAI แต่งตั้ง Paul Christiano นั่งบอร์ดมูลนิธิ เสริมทัพความปลอดภัย AI ระดับ Frontier

OpenAI แต่งตั้ง Paul Christiano นั่งบอร์ดมูลนิธิ เสริมทัพความปลอดภัย AI ระดับ Frontier

· By: SirilukP
Paul Christiano ผู้เชี่ยวชาญด้าน AI alignment เข้าร่วมคณะกรรมการมูลนิธิ OpenAI และคณะกรรมการความปลอดภัย เพื่อกำกับดูแลมาตรฐานความมั่นคงและแนวทางปฏิบัติของระบบ AI ขั้นสูง
จิตใจของสิ่งแปลกปลอม: ความท้าทายในการควบคุม AI ที่ฉลาดล้ำเกินมนุษย์

จิตใจของสิ่งแปลกปลอม: ความท้าทายในการควบคุม AI ที่ฉลาดล้ำเกินมนุษย์

· By: AttapolK
Jakub Pachocki ถ่ายทอดมุมมองต่อการก้าวกระโดดของ AI ที่เริ่มพัฒนาตัวเองได้ พร้อมเตือนถึงความจำเป็นในการสร้างระบบป้องกันและมาตรการตรวจสอบระดับสากลก่อนที่ความฉลาดของเครื่องจักรจะเกินการควบคุมของมนุษย์