tag: AI Ethics

Anthropic วางแผนจัดสรรหุ้น 5% เข้ากองทุนสาธารณประโยชน์เพื่อเยียวยาพนักงานที่ถูก AI แย่งงาน โดยใช้โครงสร้างบริษัทลูก (LLC) เพื่อรักษาอำนาจควบคุมก่อนเข้าจดทะเบียนในตลาดหลักทรัพย์

Anthropic สรุปมาตรการป้องกันการเลือกตั้งของ Claude โดยมุ่งเน้นการให้ข้อมูลที่ถูกต้อง การวัดผลอคติทางการเมือง และการป้องกันการใช้งาน AI ในทางที่ผิดเพื่อบ่อนทำลายประชาธิปไตย

Anthropic อัปเดตนโยบายการใช้งานใหม่ ห้ามผู้ใช้แสดงพฤติกรรมละเมิดหรือโหดร้ายต่อ AI อย่างต่อเนื่อง พร้อมคุมเข้มการใช้โดรนเป็นอาวุธและการสอดแนม

Anthropic เชิญผู้นำศาสนาหารือประเด็นความรู้สึกนึกคิดของ AI หลังพบโมเดลแสดงอาการคล้ายความทุกข์ ขณะที่นักวิจารณ์เตือนว่าการทำให้ AI ดูเหมือนมีชีวิตอาจเป็นกลยุทธ์ปัดความรับผิดชอบทางกฎหมายของบริษัท

Steven Pinker มองว่าความกังวลเรื่อง AI ทำลายล้างมนุษยชาตินั้นเกินจริง พร้อมเสนอให้เน้นวิศวกรรมความปลอดภัยที่อยู่บนพื้นฐานความรับผิดชอบและการกำกับดูแล แทนการตื่นตระหนกกับสถานการณ์ในจินตนาการ

Anthropic เผยกรอบการทำงานเชิงระบบเพื่อระบุและบรรเทาอันตรายจาก AI ตั้งแต่ความเสี่ยงระดับหายนะไปจนถึงผลกระทบในชีวิตประจำวัน เพื่อสร้างมาตรฐานความปลอดภัยในการพัฒนาโมเดลยุคใหม่

งานวิจัยใหม่พบว่าการฝึกแชทบอทไม่ให้อ้างว่ามีจิตวิญญาณ ส่งผลกระทบต่อเนื่องไปยังทัศนคติของ AI ในเรื่องสิทธิสัตว์และความเชื่อทางศาสนาอย่างมีนัยสำคัญ

ผลการศึกษาใหม่เผยให้เห็นว่าโมเดล Claude แสดงออกถึงค่านิยมที่แตกต่างกันตามภาษาที่ใช้ โดยมีความอบอุ่นมากขึ้นในภาษาฮินดีแต่เคร่งครัดกว่าในภาษารัสเซีย สะท้อนแนวคิดผ่านมิติหลัก 4 ด้าน