เมื่อการลองคุยกับ AI ขนาดเล็ก 0.5b กลายเป็นเรื่องขำขัน

เรื่องย่อ

กระทู้นี้เป็นโพสต์มีมจาก u/Pro-editor-1105 ที่นำภาพบทสนทนากับโมเดลภาษา (LLM) ขนาดเล็กมากที่มีพารามิเตอร์เพียง 0.5b มาแชร์ โดยเจ้าของกระทู้ระบุว่าการถามคำถามกับโมเดลขนาดเล็กแบบนี้เป็นเรื่องที่ตลกมาก ซึ่งโพสต์นี้ได้รับความสนใจอย่างมากโดยมีผู้กด upvote กว่า 1,000 ครั้งและมีคอมเมนต์พูดถึงพฤติกรรมแปลกๆ ของ AI รุ่นจิ๋วเหล่านี้

คนในกระทู้ว่าอย่างไร

• คอมเมนต์ที่ได้รับความสนใจมากที่สุดมองว่า การคุยกับโมเดลขนาดเล็กมีประโยชน์ในการทำความเข้าใจการทำงานของ LLM เพราะมันแสดงให้เห็นชัดเจนว่าความจำของ AI เป็นแบบสูญเสียรายละเอียด (lossy) โดยเปรียบเทียบว่า AI ไม่ได้ตั้งใจแต่งเรื่องโกหก แต่ความจำของมันมีความคลาดเคลื่อนในเชิงระยะห่างของข้อมูล (embedding) เช่น การจำชื่อแม่น้ำผิดเป็นสายที่อยู่ใกล้เคียงกันแทน
• หลายคนรู้สึกคิดถึงบรรยากาศเก่าๆ โดยมองว่าการคุยกับโมเดล 0.5b ให้ความรู้สึกเหมือนได้ย้อนกลับไปใช้ AI เมื่อ 3 ปีก่อนหรือยุค ChatGPT รุ่นแรกๆ ที่ AI มักจะตอบผิดแบบตลกๆ
• มีคนตั้งข้อสังเกตว่าเสน่ห์ของมันคือ "ความมั่นใจ" แม้ข้อมูลจะผิดพลาดอย่างรุนแรง เช่น ตัวเลขจำนวนยอดขายที่เกินจริงไปมาก แต่ AI ก็ยังตอบด้วยน้ำเสียงที่ดูน่าเชื่อถือเหมือนอ่านมาจากสารานุกรม
• บางคนแนะนำว่าผู้ใช้งาน AI ทุกคนควรลองใช้โมเดลเล็กๆ ดูบ้าง เพื่อจะได้เห็นจุดอ่อนสำคัญของ LLM ในเรื่องการสร้างข้อมูลเท็จอย่างมั่นใจ จะได้ระมัดระวังในการตรวจสอบรายละเอียดจากคำตอบของ AI มากขึ้น
• มีความเห็นเชิงเทคนิคเสริมว่า แม้โมเดลขนาดเล็กจะไม่เหมาะสำหรับการเป็นแหล่งความรู้ แต่พวกมันยังใช้งานได้ดีในงานเฉพาะทางอย่างการสรุปความหรือทำ RAG (Retrieval-Augmented Generation)

อัปเดต

เจ้าของกระทู้ u/Pro-editor-1105 มาตอบเพิ่มเติมหลังจากมีคนแนะนำโมเดลรุ่นที่เก่าและฉลาดน้อยกว่าเดิมว่า เขาใช้โมเดล Qwen2 0.5b และไม่รู้มาก่อนว่ามีรุ่นที่ตอบได้ดูแย่กว่านี้อีก ซึ่งเขาจะลองไปทดสอบดูว่ามันจะตลกได้แค่ไหน