OpenAI แบนบัญชีรัสเซีย-อิหร่าน ใช้ ChatGPT สร้างข่าวปลอมระดับโลก

OpenAI เปิดเผยปฏิบัติการอิทธิพลจากรัสเซียและอิหร่าน พร้อมสั่งระงับบัญชี ChatGPT ที่เกี่ยวข้องทั้งหมด โดยทั้งสองประเทศได้ใช้ตัวตนปลอมเพื่อปลูกฝังเนื้อหาบิดเบือนลงในสำนักข่าวที่มีความน่าเชื่อถือ แทนที่จะทำแคมเปญบนโซเชียลมีเดียเพียงอย่างเดียว ตามข้อมูลในรายงาน investigation report ซึ่งก่อนหน้านี้ OpenAI เคย uncovered a different Russian campaign ที่เน้นการสร้างโซเชียลมีเดียและคลังสมองปลอมมาแล้ว

ปฏิบัติการของรัสเซียภายใต้ชื่อ "Dark Clark" มุ่งเน้นการแพร่กระจายข้อมูลบิดเบือนไปทั่วละตินอเมริกาเพื่อทำลายชื่อเสียงของยูเครนและสร้างความระส่ำระสายให้กับการเมืองท้องถิ่น ผู้บงการได้สร้างตัวตนสมมติขึ้นมาควบคุมคลังสมอง และมีแนวโน้มที่จะหลอกใช้พนักงานท้องถิ่นให้เข้ามาเกี่ยวข้องโดยไม่รู้ตัว จนนำไปสู่การสร้างไฟล์เสียงและเอกสารปลอมที่บีบให้ทางการในเอกวาดอร์และเปรูต้องออกมาตรวจสอบข้อเท็จจริงและปฏิเสธข้อมูลอย่างเป็นทางการ

จากความรุนแรงดังกล่าว OpenAI ได้จัดอันดับให้ปฏิบัติการนี้อยู่ในระดับ 5 จาก 6 บน Breakout Scale เนื่องจากมีนักการเมืองออกมาตอบโต้ต่อเนื้อหาเหล่านั้น ซึ่งถือเป็นกรณีระดับ 5 กรณีแรกในรอบสองปีครึ่งนับตั้งแต่เริ่มมีการรายงานมา

ในขณะเดียวกัน ปฏิบัติการของอิหร่านในชื่อ "Bogus Bylines" ได้ใช้นักข่าวปลอม 7 รายเพื่อส่งบทความเกือบ 100 บทความเกี่ยวกับความขัดแย้งระหว่างสหรัฐฯ-อิหร่านไปยังสำนักข่าวออนไลน์ทั่วโลก นอกจากนี้ผู้กระทำการยังได้สร้างความคิดเห็นบนโซเชียลมีเดียเสริม แม้ว่าในส่วนนี้แทบจะไม่ได้รับความสนใจจากสาธารณชนก็ตาม

ทั้งสองปฏิบัติการมีการใช้ AI เป็นเครื่องมือหลักในการจัดทำรายงานภายในและปรับเปลี่ยนเนื้อหาโฆษณาชวนเชื่อให้เข้ากับบริบทของภาษาต่างๆ เพื่อเพิ่มประสิทธิภาพในการโน้มน้าวใจและลดอุปสรรคด้านภาษาในการแทรกซึมสื่อต่างประเทศ