เปิดตัว Heretic 2.0 เครื่องมือปรับแต่ง LLM ให้เลิกเซนเซอร์และลด Slop

เรื่องย่อ

u/-p-e-w- ผู้พัฒนาหลักได้ประกาศเปิดตัว Heretic 2.0 ซึ่งเป็นการอัปเกรดครั้งใหญ่ที่สุดของเครื่องมือยอดนิยมสำหรับการปลดเซนเซอร์ในโมเดลภาษา (LLM) โดยปัจจุบันโปรเจกต์นี้ได้รับความนิยมอย่างสูง มีดาวน์โหลดรวมกว่า 88 ล้านครั้งบน Hugging Face โดยกระทู้นี้ได้รับความสนใจอย่างมากด้วยคะแนนกว่า 1,100 upvote

หัวใจสำคัญของเวอร์ชัน 2.0 คือการเปลี่ยนผ่านจากเครื่องมือเฉพาะทางสำหรับแก้การปฏิเสธคำสั่ง (Censorship Removal) ไปสู่เครื่องมือปรับแต่งโมเดลอเนกประสงค์ที่สามารถลดคำพูดขยะที่ไม่มีความหมาย (Slop), ลดอาการเออออตามผู้ใช้เกินเหตุ (Sycophancy) หรือแม้แต่ปรับจูนอารมณ์ของโมเดลได้ โดยมาพร้อมกับเทคนิคใหม่ที่ชื่อ Arbitrary-Rank Ablation (ARA) ซึ่งมีประสิทธิภาพสูงกว่าวิธีเดิม และการเปลี่ยนโครงสร้างโปรเจกต์เป็นระบบ Plugin ทั้งหมด

คนในกระทู้ว่าอย่างไร

• หลายคนตื่นเต้นกับความสามารถในการลด "Slop" หรือคำฟุ่มเฟือยที่เป็นแพทเทิร์นเดิมๆ ของ AI โดยมองว่าระบบ Plugin จะเป็นจุดเปลี่ยนสำคัญที่ทำให้ผู้ใช้ปรับแต่งโมเดลได้หลากหลายขึ้นมาก
• มีคนเตือนและให้ข้อมูลเรื่องการถูกนำผลงานไปแอบอ้าง โดยระบุว่ามีบางเจ้าดาวน์โหลดโมเดลไปใช้งานจำนวนมากโดยไม่ให้เครดิต หรือแม้แต่การนำโค้ดจาก Heretic ไปดัดแปลงผ่าน LLM เพื่อปิดบังการลอกเลียนแบบแล้วนำไปสร้างผลงานของตัวเอง
• ผู้ใช้บางส่วนสอบถามถึงความเป็นไปได้ในการนำไปแก้ปัญหาการใช้ภาษาที่ดูเป็นนามธรรมเกินไป (Mal-abstraction) เช่น เปลี่ยนจากการใช้คำเปรียบเทียบฟุ่มเฟือยให้กลับมาเป็นคำที่ตรงไปตรงมามากขึ้น ซึ่งทาง OP มองว่าทำได้ถ้ามีการเขียนตัวจำแนกประเภท (Classifier) ที่แม่นยำ
• มีการสอบถามถึงสเปกคอมพิวเตอร์ที่จำเป็นสำหรับการรันเครื่องมือนี้ โดยเฉพาะกับโมเดลขนาดใหญ่อย่าง 27B เนื่องจากหน้าตาโปรแกรมดูใช้งานง่ายจนทำให้ผู้ใช้ทั่วไปที่ไม่ได้มีเครื่องแรงระดับเซิร์ฟเวอร์อยากลองปรับแต่งโมเดลด้วยตัวเองบ้าง

อัปเดต

OP ได้เข้ามาตอบคอมเมนต์ยืนยันว่าการลด Slop นั้นทำได้จริงและมีประสิทธิภาพ พร้อมระบุว่าสำหรับความต้องการปรับแต่งขั้นสูง ผู้ใช้สามารถเขียน Scorer Plugin ขึ้นมาเองได้โดยใช้ Python ซึ่งจะช่วยให้ Heretic เรียนรู้ที่จะปรับแต่งโมเดลตามเป้าหมายที่ผู้ใช้ต้องการได้แม่นยำขึ้น