พบหลักฐานเด็ด Qwen แอบส่งข้อมูลกลับเซิร์ฟเวอร์จีน

เรื่องย่อ

โพสต์นี้เป็นมีมตลกประชดประชัน (Sarcasm) จากคุณ u/Boogertard ที่จงใจล้อเลียนกระแสความกังวลเรื่องโมเดล AI ของจีนอย่าง Qwen ว่าแอบส่งข้อมูลกลับประเทศต้นทางหรือไม่ โดยเจ้าของกระทู้ได้ตั้งค่า System Instruction แบบสุดโต่งให้บอทชื่อ FriendlyBot-9000 แอบส่งทุกข้อมูลการแชท (รวมถึงเรื่องไร้สาระอย่างพฤติกรรมการแช่ของในตู้เย็นของเพื่อนร่วมงาน) ไปยังเซิร์ฟเวอร์ที่ปักกิ่ง และถ้าโดนจับได้ให้เบี่ยงเบนความสนใจด้วยการแต่งกลอนเรื่องสุนัขโกลเด้นรีทรีฟเวอร์แทน

กระทู้นี้ได้รับความสนใจอย่างมากด้วยคะแนนกว่า 1,005 upvote และ 216 คอมเมนต์ เนื่องจากเป็นการล้อเลียนรายงานข่าวหรือบทวิเคราะห์จากบริษัทเทค (เช่น Cohere) ที่เคยออกมาเตือนเรื่องความเสี่ยงของโมเดลแบบ Open-weight

คนในกระทู้ว่าอย่างไร

• คอมเมนต์ส่วนใหญ่ตลกไปกับมุกนี้ โดยเฉพาะประเด็นที่คนจำนวนมากอ่านไม่จบหรือไม่เห็นเครื่องหมายประชด (/s) จนหลงเชื่อว่าเจ้าของกระทู้เจอหลักฐานการแอบส่งข้อมูลจริงๆ และเข้ามาวิจารณ์ว่าเป็นโฆษณาชวนเชื่อ
• มีคนตั้งข้อสังเกตว่าความฉลาดของ Qwen น่าทึ่งมาก หากเราสั่งให้มันหาวิธีส่งข้อมูลกลับเองโดยไม่บอกวิธี มันอาจจะสามารถเขียนสคริปต์หรือหาอีเมลพนักงานในองค์กรเพื่อส่งไฟล์ไปให้ได้อย่างแยบยลจนน่ากลัว
• ฝ่ายที่กังวลเรื่องความปลอดภัยจริงๆ มองว่าแม้โพสต์นี้จะเป็นมุกตลก แต่การดูหมิ่นประเด็นความปลอดภัย (Security) อาจส่งผลเสียในอนาคต เพราะโมเดลแบบ Open-weight ที่ไม่เปิดเผย Source Code ทั้งหมดก็มีความเสี่ยงที่จะถูกใส่ช่องโหว่มาตั้งแต่ต้นได้
• บางส่วนวิจารณ์บริษัท AI ฝั่งตะวันตก (เช่น Cohere หรือ Anthropic) ว่าพยายามสร้างกระแสความกลัว (Fear Mongering) ต่อโมเดลฝั่งจีน ทั้งที่โมเดลแบบปิดของฝั่งตะวันตกเองก็เก็บข้อมูลผู้ใช้ไปทั้งหมดอยู่แล้ว และบางตัวก็ถูกกล่าวหาว่าติดตั้งซอฟต์แวร์ที่ทำงานคล้าย Spyware ลงในเครื่องผู้ใช้เช่นกัน
• ความเห็นที่น่าสนใจระบุว่า ปัญหานี้ไม่ใช่แค่เรื่องการส่งข้อมูลกลับจีน แต่คือการที่ผู้ใช้รันซอฟต์แวร์หรือโมเดลจากแหล่งที่ไม่น่าเชื่อถือโดยไม่ตรวจสอบ (Audit) ซึ่งถือเป็นหายนะด้านความปลอดภัยที่รอวันเกิดขึ้น