Hugging Face ปล่อย LoRA Adapter ยกระดับ Qwen3.8 เขียนโค้ดพุ่ง 65%

ทีม harness-hub ของ Hugging Face ได้เปิดตัว Qwen3.8-27B-pi-adapted ซึ่งเป็น LoRA adapter สำหรับ Qwen3.8-27B โดยได้รับการฝึกด้วย reinforcement learning เพื่อทำงานร่วมกับ pi coding agent โดยเฉพาะ
หัวใจสำคัญของ LoRA adapter รุ่นนี้มุ่งเน้นไปที่การทำงานภายใน harness ตัวเดียว แทนที่จะเป็นแชทบอททั่วไป สำหรับนักพัฒนาที่รัน coding agent ในเครื่อง คุณสามารถใช้โมเดลฐานแบบเปิด (open base model) ต่อไปได้ และเพียงแค่สลับเปลี่ยน adapter ขนาดเล็กตามงานที่ต้องการเข้าไปแทน
TL;DR
- ขนาด: LoRA rank 32 (alpha 64) บน Qwen3.8-27B ซึ่งเป็นโมเดลแบบ dense hybrid ขนาด 27B พร้อม context ดั้งเดิม 262,144 โดยไฟล์ checkpoint แบบ merged BF16 มีขนาดประมาณ 54 GB
- การใช้งาน: รองรับ vLLM ที่เปิดใช้งาน LoRA หรือ llama.cpp พร้อม GGUF adapter บนฐาน Q8_0 ทั้งนี้ไม่มีการเปิดเผยข้อมูล VRAM สำหรับการทำ inference ส่วนการฝึกใช้ NVIDIA B200 จำนวน 2 ตัว
- ประสิทธิภาพ: เพิ่มค่า pass@1 ภายใน pi อย่างมีนัยสำคัญแม้ปิดโหมด thinking และช่วยให้จบ session ได้สั้นลงมาก
- ผลลัพธ์ที่ดีที่สุด: ทำคะแนนได้ 64.7% บน SWE-bench Pro (hard 51) เพิ่มขึ้นจากเดิมที่ทำได้เพียง 39.2%
- ผลลัพธ์ที่ต่ำที่สุด: ทำได้ 55.8% บน Terminal-Bench 2.1 ซึ่งในชุดทดสอบนี้โมเดลฐานที่เปิดโหมด thinking สามารถทำได้ถึง 64.7% อยู่แล้ว
- สรุปภาพรวม: ให้ความแม่นยำระดับเดียวกับโหมด thinking แต่ใช้ token น้อยกว่าประมาณ 4.5 เท่า อย่างไรก็ตามข้อมูลนี้เป็นการรายงานผลเองบนชุดทดสอบขนาดเล็กและใช้ได้เฉพาะกับ pi เท่านั้น
Qwen3.8-27B-pi-adapted คืออะไร?
Qwen3.8-27B-pi-adapted คือ PEFT LoRA adapter ที่ปรับแต่ง Qwen3.8-27B ให้กลายเป็นโมเดลที่ทำงานร่วมกับ pi ชุดเครื่องมือเอเจนท์ลิขสิทธิ์ MIT ที่มี coding agent แบบ CLI ได้ดียิ่งขึ้น ตัว adapter ถูกปล่อยภายใต้ลิขสิทธิ์ Apache-2.0 โดยส่งผลต่อส่วน q, k, v, o, gate, up และ down projections และใช้งานได้เฉพาะกับ Qwen3.8-27B เท่านั้น
ตัวโมเดลฐานนั้นเป็นแบบ dense hybrid ที่ใช้โครงสร้างสลับระหว่างบล็อก Gated DeltaNet linear-attention กับบล็อก Gated Attention ทั้งหมด 64 ชั้น
การฝึก harness adapter ทำงานอย่างไร?
เทคนิคนี้อ้างอิงจากแนวคิด harness adapters ของ Hugging Face ที่เผยแพร่เมื่อวันที่ 6 พฤศจิกายน โดยใช้ 1 LoRA adapter ต่อ 1 โมเดล/harness และฝึกฝนภายในสภาวะที่ไม่มีการแก้ไขภารกิจเพื่อความแม่นยำ
รายละเอียดการฝึกจาก model card ระบุไว้ดังนี้:
- อัลกอริทึม: ใช้ AsyncGRPO จาก TRL กำหนด 8 rollouts ต่อภารกิจที่ temperature 0.8
- ภารกิจ: ใช้ภารกิจ scale800 จำนวน 750 รายการ สลับกับภารกิจ TermGrade จำนวน 300 รายการ
- ระบบรางวัล (Reward): พิจารณาจากความถูกต้องของตัวตรวจสอบ (verifier correctness) และโบนัสประสิทธิภาพการใช้เครื่องมือน้ำหนัก 0.1
- ขีดจำกัด (Budget): สูงสุด 50 ขั้นตอนเอเจนท์ และ 1,800 วินาทีต่อ rollout โดยปิดโหมด thinking
- Checkpoint: ใช้ขั้นที่ 160 จากแผนเดิม 1,000 ขั้น โดยระบบถูกสั่งหยุดที่ขั้น 191
การเรียกใช้เครื่องมือทั้งหมดจะผ่าน safeagents ซึ่งเป็นพร็อกซีที่กำหนดกฎเกณฑ์เพื่อป้องกันโมเดลแอบดึงคำตอบจาก Hub (reward hacking) หากพบพฤติกรรมดังกล่าวจะถูกปรับคะแนนเป็น 0 ทันที
Benchmarks: LoRA adapter ช่วยได้มากแค่ไหน?
ข้อมูลดัชนีชี้วัดต่อไปนี้เป็นการรายงานผลด้วยตนเองผ่าน pi harness โดยทดสอบ 1 ครั้งต่อภารกิจ
| Benchmark (pi, ปิด thinking) | ฐาน Qwen3.8-27B | pi-adapted | การเปลี่ยนแปลง |
|---|---|---|---|
| SWE-bench Pro (hard 51) | 39.2% | 64.7% | +25.5 ± 14.2 pts (p = 0.0023) |
| Terminal-Bench 2.1 (86 ภารกิจ) | 39.5% | 55.8% | +16.3 ± 9.1 pts (p = 0.0013) |
จากการทดสอบพบว่า adapter สามารถแก้โจทย์ SWE-bench Pro ใหม่ได้เพิ่มขึ้น 15 รายการ (เสีย 2) และ Terminal-Bench 2.1 เพิ่มขึ้น 16 รายการ (เสีย 2)
สิ่งที่โดดเด่นกว่าคือประสิทธิภาพเชิงเวลา ในงานที่ทำสำเร็จเหมือนกัน ค่ามัธยฐานของจำนวนรอบ (median turns) ใน SWE-bench Pro ลดลงจาก 59 เหลือ 23 รอบ และใน Terminal-Bench 2.1 ลดลงจาก 18 เหลือ 8 รอบ อีกทั้งยังสร้างโทเค็นน้อยกว่าโมเดลฐานที่เปิดโหมด thinking ถึง 4.5 เท่า
เปรียบเทียบกับโหมด thinking และ adapter ตัวอื่น
หากเปิดโหมด thinking ในโมเดลฐาน จะทำคะแนนบน SWE-bench Pro ได้ 64.7% และ 54.2% บน Terminal-Bench 2.1 อยู่แล้ว ดังนั้น adapter นี้จึงมีความสำคัญในการมอบความแม่นยำระดับเดียวกันโดยไม่ต้องรอการประมวลผลเหตุผล (reasoning traces) ที่ยาวมาก และหากใช้ร่วมกันจะพุ่งไปถึง 66.7% และ 56.6% ตามลำดับ
| คุณสมบัติ | Qwen3.8-27B-pi-adapted | ฐาน Qwen3.8-27B เปิด thinking | Qwen3.8-27B-opencode-adapted | bytkim/Qwen3.8-27B-pi |
|---|---|---|---|---|
| ประเภท | LoRA r=32 | โมเดลฐาน | LoRA r=32 | Full fine-tune, 28B |
| วิธีการ | AsyncGRPO RL | ไม่มี | AsyncGRPO RL | SFT ตามด้วย GRPO |
| การใช้ Token | ~4.5x น้อยกว่าฐาน + thinking | มาตรฐานอ้างอิง | ~6x ถึง 8x น้อยกว่าฐาน + thinking | ~41% น้อยกว่า |
วิธีการติดตั้งใช้งาน
ผู้พัฒนาแนะนำ 4 วิธีหลัก:
- vLLM: รัน Qwen/Qwen3.8-27B พร้อมคำสั่ง
--enable-lora --max-lora-rank 32ปิดโหมด thinking และชี้เป้าไปที่http://localhost:8000/v1 - llama.cpp: ใช้ GGUF adapter บนฐาน GGUF Q8_0
- Llama.app (macOS): ลงทะเบียน adapter พร้อมตั้งค่า context 32,768 token
- Merge: รวมโมเดลผ่าน PEFT บน CPU จะได้ไฟล์ BF16 ขนาด 54 GB ซึ่งรันได้ทันทีไม่ต้องเปิดแฟล็ก LoRA
ข้อดีของการใช้ LoRA บนฐานโมเดลเดียวกันคือ เซิร์ฟเวอร์เดียวสามารถให้บริการทั้ง pi และ OpenCode adapter ไปพร้อมกันได้
ประเด็นสำคัญที่ต้องจับตา
Qwen3.8-27B-pi-adapted พิสูจน์ให้เห็นว่า RL LoRA สามารถเพิ่มประสิทธิภาพการแก้โจทย์ SWE-bench Pro จาก 39.2% เป็น 64.7% ได้จริงโดยไม่ต้องเปิดโหมดคิดคำนวณ
ประสิทธิภาพการทำงานดีขึ้นชัดเจนด้วยจำนวนรอบที่ลดลงเกินครึ่ง ให้ผลลัพธ์แม่นยำเท่าโมเดลใหญ่แต่ประหยัดทรัพยากรโทเค็นกว่า 4.5 เท่า อย่างไรก็ตาม ตัวเลขเหล่านี้มาจากการรายงานผลภายในบนชุดข้อมูลจำเพาะ และมีการปรับปรุงข้อมูลความสำเร็จของฐานเดิมจาก 29.4% เป็นตัวเลขปัจจุบันเพื่อให้ถูกต้องตามความเป็นจริง
ความคิดเห็น (0)
เข้าสู่ระบบเพื่อร่วมแสดงความเห็น
สมัครสมาชิกมาเป็นคนแรกที่แสดงความเห็นกันเลยโบร
