Hugging Face ปล่อย LoRA Adapter ยกระดับ Qwen3.8 เขียนโค้ดพุ่ง 65%

· By: SirilukP

Hugging Face ปล่อย LoRA Adapter ยกระดับ Qwen3.8 เขียนโค้ดพุ่ง 65%

ทีม harness-hub ของ Hugging Face ได้เปิดตัว Qwen3.8-27B-pi-adapted ซึ่งเป็น LoRA adapter สำหรับ Qwen3.8-27B โดยได้รับการฝึกด้วย reinforcement learning เพื่อทำงานร่วมกับ pi coding agent โดยเฉพาะ

หัวใจสำคัญของ LoRA adapter รุ่นนี้มุ่งเน้นไปที่การทำงานภายใน harness ตัวเดียว แทนที่จะเป็นแชทบอททั่วไป สำหรับนักพัฒนาที่รัน coding agent ในเครื่อง คุณสามารถใช้โมเดลฐานแบบเปิด (open base model) ต่อไปได้ และเพียงแค่สลับเปลี่ยน adapter ขนาดเล็กตามงานที่ต้องการเข้าไปแทน

TL;DR

  • ขนาด: LoRA rank 32 (alpha 64) บน Qwen3.8-27B ซึ่งเป็นโมเดลแบบ dense hybrid ขนาด 27B พร้อม context ดั้งเดิม 262,144 โดยไฟล์ checkpoint แบบ merged BF16 มีขนาดประมาณ 54 GB
  • การใช้งาน: รองรับ vLLM ที่เปิดใช้งาน LoRA หรือ llama.cpp พร้อม GGUF adapter บนฐาน Q8_0 ทั้งนี้ไม่มีการเปิดเผยข้อมูล VRAM สำหรับการทำ inference ส่วนการฝึกใช้ NVIDIA B200 จำนวน 2 ตัว
  • ประสิทธิภาพ: เพิ่มค่า pass@1 ภายใน pi อย่างมีนัยสำคัญแม้ปิดโหมด thinking และช่วยให้จบ session ได้สั้นลงมาก
  • ผลลัพธ์ที่ดีที่สุด: ทำคะแนนได้ 64.7% บน SWE-bench Pro (hard 51) เพิ่มขึ้นจากเดิมที่ทำได้เพียง 39.2%
  • ผลลัพธ์ที่ต่ำที่สุด: ทำได้ 55.8% บน Terminal-Bench 2.1 ซึ่งในชุดทดสอบนี้โมเดลฐานที่เปิดโหมด thinking สามารถทำได้ถึง 64.7% อยู่แล้ว
  • สรุปภาพรวม: ให้ความแม่นยำระดับเดียวกับโหมด thinking แต่ใช้ token น้อยกว่าประมาณ 4.5 เท่า อย่างไรก็ตามข้อมูลนี้เป็นการรายงานผลเองบนชุดทดสอบขนาดเล็กและใช้ได้เฉพาะกับ pi เท่านั้น

Qwen3.8-27B-pi-adapted คืออะไร?

Qwen3.8-27B-pi-adapted คือ PEFT LoRA adapter ที่ปรับแต่ง Qwen3.8-27B ให้กลายเป็นโมเดลที่ทำงานร่วมกับ pi ชุดเครื่องมือเอเจนท์ลิขสิทธิ์ MIT ที่มี coding agent แบบ CLI ได้ดียิ่งขึ้น ตัว adapter ถูกปล่อยภายใต้ลิขสิทธิ์ Apache-2.0 โดยส่งผลต่อส่วน q, k, v, o, gate, up และ down projections และใช้งานได้เฉพาะกับ Qwen3.8-27B เท่านั้น

ตัวโมเดลฐานนั้นเป็นแบบ dense hybrid ที่ใช้โครงสร้างสลับระหว่างบล็อก Gated DeltaNet linear-attention กับบล็อก Gated Attention ทั้งหมด 64 ชั้น

การฝึก harness adapter ทำงานอย่างไร?

เทคนิคนี้อ้างอิงจากแนวคิด harness adapters ของ Hugging Face ที่เผยแพร่เมื่อวันที่ 6 พฤศจิกายน โดยใช้ 1 LoRA adapter ต่อ 1 โมเดล/harness และฝึกฝนภายในสภาวะที่ไม่มีการแก้ไขภารกิจเพื่อความแม่นยำ

รายละเอียดการฝึกจาก model card ระบุไว้ดังนี้:

  • อัลกอริทึม: ใช้ AsyncGRPO จาก TRL กำหนด 8 rollouts ต่อภารกิจที่ temperature 0.8
  • ภารกิจ: ใช้ภารกิจ scale800 จำนวน 750 รายการ สลับกับภารกิจ TermGrade จำนวน 300 รายการ
  • ระบบรางวัล (Reward): พิจารณาจากความถูกต้องของตัวตรวจสอบ (verifier correctness) และโบนัสประสิทธิภาพการใช้เครื่องมือน้ำหนัก 0.1
  • ขีดจำกัด (Budget): สูงสุด 50 ขั้นตอนเอเจนท์ และ 1,800 วินาทีต่อ rollout โดยปิดโหมด thinking
  • Checkpoint: ใช้ขั้นที่ 160 จากแผนเดิม 1,000 ขั้น โดยระบบถูกสั่งหยุดที่ขั้น 191

การเรียกใช้เครื่องมือทั้งหมดจะผ่าน safeagents ซึ่งเป็นพร็อกซีที่กำหนดกฎเกณฑ์เพื่อป้องกันโมเดลแอบดึงคำตอบจาก Hub (reward hacking) หากพบพฤติกรรมดังกล่าวจะถูกปรับคะแนนเป็น 0 ทันที

Benchmarks: LoRA adapter ช่วยได้มากแค่ไหน?

ข้อมูลดัชนีชี้วัดต่อไปนี้เป็นการรายงานผลด้วยตนเองผ่าน pi harness โดยทดสอบ 1 ครั้งต่อภารกิจ

Benchmark (pi, ปิด thinking)ฐาน Qwen3.8-27Bpi-adaptedการเปลี่ยนแปลง
SWE-bench Pro (hard 51)39.2%64.7%+25.5 ± 14.2 pts (p = 0.0023)
Terminal-Bench 2.1 (86 ภารกิจ)39.5%55.8%+16.3 ± 9.1 pts (p = 0.0013)

จากการทดสอบพบว่า adapter สามารถแก้โจทย์ SWE-bench Pro ใหม่ได้เพิ่มขึ้น 15 รายการ (เสีย 2) และ Terminal-Bench 2.1 เพิ่มขึ้น 16 รายการ (เสีย 2)

สิ่งที่โดดเด่นกว่าคือประสิทธิภาพเชิงเวลา ในงานที่ทำสำเร็จเหมือนกัน ค่ามัธยฐานของจำนวนรอบ (median turns) ใน SWE-bench Pro ลดลงจาก 59 เหลือ 23 รอบ และใน Terminal-Bench 2.1 ลดลงจาก 18 เหลือ 8 รอบ อีกทั้งยังสร้างโทเค็นน้อยกว่าโมเดลฐานที่เปิดโหมด thinking ถึง 4.5 เท่า

เปรียบเทียบกับโหมด thinking และ adapter ตัวอื่น

หากเปิดโหมด thinking ในโมเดลฐาน จะทำคะแนนบน SWE-bench Pro ได้ 64.7% และ 54.2% บน Terminal-Bench 2.1 อยู่แล้ว ดังนั้น adapter นี้จึงมีความสำคัญในการมอบความแม่นยำระดับเดียวกันโดยไม่ต้องรอการประมวลผลเหตุผล (reasoning traces) ที่ยาวมาก และหากใช้ร่วมกันจะพุ่งไปถึง 66.7% และ 56.6% ตามลำดับ

คุณสมบัติQwen3.8-27B-pi-adaptedฐาน Qwen3.8-27B เปิด thinkingQwen3.8-27B-opencode-adaptedbytkim/Qwen3.8-27B-pi
ประเภทLoRA r=32โมเดลฐานLoRA r=32Full fine-tune, 28B
วิธีการAsyncGRPO RLไม่มีAsyncGRPO RLSFT ตามด้วย GRPO
การใช้ Token~4.5x น้อยกว่าฐาน + thinkingมาตรฐานอ้างอิง~6x ถึง 8x น้อยกว่าฐาน + thinking~41% น้อยกว่า

วิธีการติดตั้งใช้งาน

ผู้พัฒนาแนะนำ 4 วิธีหลัก:

  • vLLM: รัน Qwen/Qwen3.8-27B พร้อมคำสั่ง --enable-lora --max-lora-rank 32 ปิดโหมด thinking และชี้เป้าไปที่ http://localhost:8000/v1
  • llama.cpp: ใช้ GGUF adapter บนฐาน GGUF Q8_0
  • Llama.app (macOS): ลงทะเบียน adapter พร้อมตั้งค่า context 32,768 token
  • Merge: รวมโมเดลผ่าน PEFT บน CPU จะได้ไฟล์ BF16 ขนาด 54 GB ซึ่งรันได้ทันทีไม่ต้องเปิดแฟล็ก LoRA

ข้อดีของการใช้ LoRA บนฐานโมเดลเดียวกันคือ เซิร์ฟเวอร์เดียวสามารถให้บริการทั้ง pi และ OpenCode adapter ไปพร้อมกันได้

ประเด็นสำคัญที่ต้องจับตา

Qwen3.8-27B-pi-adapted พิสูจน์ให้เห็นว่า RL LoRA สามารถเพิ่มประสิทธิภาพการแก้โจทย์ SWE-bench Pro จาก 39.2% เป็น 64.7% ได้จริงโดยไม่ต้องเปิดโหมดคิดคำนวณ

ประสิทธิภาพการทำงานดีขึ้นชัดเจนด้วยจำนวนรอบที่ลดลงเกินครึ่ง ให้ผลลัพธ์แม่นยำเท่าโมเดลใหญ่แต่ประหยัดทรัพยากรโทเค็นกว่า 4.5 เท่า อย่างไรก็ตาม ตัวเลขเหล่านี้มาจากการรายงานผลภายในบนชุดข้อมูลจำเพาะ และมีการปรับปรุงข้อมูลความสำเร็จของฐานเดิมจาก 29.4% เป็นตัวเลขปัจจุบันเพื่อให้ถูกต้องตามความเป็นจริง

Source: MarkTechPost
ดูแลงานแปลและเรียบเรียงโดย SirilukP

ความคิดเห็น (0)

เข้าสู่ระบบเพื่อร่วมแสดงความเห็น

สมัครสมาชิก

มาเป็นคนแรกที่แสดงความเห็นกันเลยโบร