tag: AI Alignment

อดีตพนักงาน DeepMind แฉ ห้องแล็บเคยสั่งแบนการพูดเรื่อง AI ล้างเผ่าพันธุ์มนุษย์ต่อสาธารณะ

อดีตพนักงาน DeepMind แฉ ห้องแล็บเคยสั่งแบนการพูดเรื่อง AI ล้างเผ่าพันธุ์มนุษย์ต่อสาธารณะ

อดีตโฆษก Google DeepMind เผยองค์กรเคยสั่งห้ามพนักงานทุกระดับพูดถึงความเสี่ยงที่ AI จะทำให้มนุษย์สูญพันธุ์ โดยให้เบี่ยงเบนความสนใจไปที่ประโยชน์ด้านอื่นแทน แม้ภายในจะทราบดีว่าปัญหาด้านความปลอดภัยยังไม่ได้รับการแก้ไข
OpenAI แต่งตั้ง Paul Christiano นั่งบอร์ดมูลนิธิ เสริมทัพความปลอดภัย AI ระดับ Frontier

OpenAI แต่งตั้ง Paul Christiano นั่งบอร์ดมูลนิธิ เสริมทัพความปลอดภัย AI ระดับ Frontier

· By: SirilukP
Paul Christiano ผู้เชี่ยวชาญด้าน AI alignment เข้าร่วมคณะกรรมการมูลนิธิ OpenAI และคณะกรรมการความปลอดภัย เพื่อกำกับดูแลมาตรฐานความมั่นคงและแนวทางปฏิบัติของระบบ AI ขั้นสูง
จิตใจของสิ่งแปลกปลอม: ความท้าทายในการควบคุม AI ที่ฉลาดล้ำเกินมนุษย์

จิตใจของสิ่งแปลกปลอม: ความท้าทายในการควบคุม AI ที่ฉลาดล้ำเกินมนุษย์

· By: AttapolK
Jakub Pachocki ถ่ายทอดมุมมองต่อการก้าวกระโดดของ AI ที่เริ่มพัฒนาตัวเองได้ พร้อมเตือนถึงความจำเป็นในการสร้างระบบป้องกันและมาตรการตรวจสอบระดับสากลก่อนที่ความฉลาดของเครื่องจักรจะเกินการควบคุมของมนุษย์