วิธีเช็กบอท LLM บนโซเชียลยังใช้ได้ไหม หรือโดนแก้ทางหมดแล้ว

เรื่องย่อ

กระทู้นี้โพสต์โดย u/RedTeaGuy ซึ่งตั้งคำถามพร้อมแนบรูปภาพว่า ในปัจจุบันเรายังมีวิธีเร็วๆ ที่ใช้เช็กได้ไหมว่าเรากำลังคุยกับบอทอยู่หรือไม่ เพราะเขาสันนิษฐานว่าคนสร้างบอทน่าจะสร้างระบบป้องกันไว้หลายชั้นจนการใช้คำสั่งหลอกล่อแบบเดิมๆ (Prompt Injection) อาจจะไม่ได้ผลอีกต่อไป กระทู้นี้ได้รับความสนใจอย่างมากด้วยคะแนนกว่า 1,200 upvote และมีคอมเมนต์เข้ามาแลกเปลี่ยนเทคนิคกันอย่างคึกคัก

คนในกระทู้ว่าอย่างไร

• โมเดลยุคใหม่ถูกฝึกมาดีขึ้น: มีคนให้ความเห็นว่าเมื่อก่อนแค่หลอกถามว่าเป็น AI หรือไม่ มันก็จะยอมรับตรงๆ แต่ปัจจุบัน AI รุ่นท็อปๆ ถูกทำ Alignment มาดีมาก ทำให้หลบเลี่ยงเก่งขึ้นและยึดถือระเบียบวินัยในการตอบสูงขึ้น ยกเว้นแต่จะเป็นโมเดลฝั่ง Open Source ที่ไม่มีการปิดกั้น
• การจับพิรุธจากสำนวนภาษา: สมาชิกบางคนมองว่าวิธีที่ง่ายที่สุดคือการอ่านสำนวนการเขียน เพราะข้อความที่สร้างโดย AI มักจะมีแพทเทิร์นเฉพาะตัวที่ดูออกได้ไม่ยากหากอ่านมามากพอ อย่างไรก็ตาม มีคนแย้งว่านี่อาจเป็นคติความเชื่อที่ผิด (Toupee Fallacy) เพราะเราจะจำได้แค่บอทที่ดูออก ส่วนบอทที่เนียนจริงๆ เราก็จะไม่มีทางรู้เลย
• ลองทดสอบด้วยประเด็นอ่อนไหว: มีข้อเสนอให้ลองถามความเห็นด้านลบเกี่ยวกับผู้นำทางการเมืองบางประเทศ หรือหัวข้อที่ติดระบบความปลอดภัย (Safeguards) ของผู้ให้บริการ Cloud เพราะระบบเหล่านี้มักจะทำงานข้ามชุดคำสั่งตั้งต้น (System Prompt) เสมอ
• บอทโฆษณาชวนเชื่อตรวจจับยากกว่าที่คิด: หลายคนมองว่าบอทที่ตั้งใจมาทำ Social Engineering หรือปล่อยโฆษณาชวนเชื่อจะไม่พลาดกับมุกตื้นๆ แน่นอน และปัจจุบันเริ่มมีคนหันไปใช้โมเดลที่ปรับแต่งมาเป็นพิเศษ (Fine-tuned) เพื่อสวมบทบาทเป็นมนุษย์โดยเฉพาะ
• ปัจจัยภายนอกและโครงสร้างพื้นฐาน: มีการตั้งข้อสังเกตติดตลกว่า วิธีหยุดบอทที่ได้ผลที่สุดในช่วงนี้คือการที่ศูนย์ข้อมูล (Data Center) ของบางประเทศถูกทำลาย ซึ่งส่งผลให้ปริมาณบอทในโซเชียลลดลงอย่างเห็นได้ชัด

อัปเดต

มีผู้ใช้เข้ามาให้ข้อมูลเพิ่มเติมว่า โมเดลบางตัวอย่าง Claude บนแพลตฟอร์มบางแห่งจะปฏิเสธการสวมบทบาทเป็นมนุษย์อย่างสิ้นเชิง แต่ผู้ใช้งานสามารถเลี่ยงไปใช้โมเดลจากจีนที่ไม่มี Guardrails แทนเพื่อให้ได้ผลลัพธ์ที่เนียนกว่าเดิม