Local AI Weekly #9: เมื่อ Cloud AI เริ่มตอบปฏิเสธคุณ

เมื่อสามสัปดาห์ก่อน ผมเคยเขียนไว้ว่า หากคุณสามารถทำ Reverse Engineering มันได้ มันก็คือโอเพนซอร์ส แต่ดูเหมือนว่าแล็บ AI ยักษ์ใหญ่จะไม่ค่อยชอบแนวคิดนี้เท่าไหร่นัก

ปัจจุบันผู้ใช้ Claude Code กำลังเผชิญกับการตรวจสอบความปลอดภัย (safety checks) ขณะพยายามทำ decompiling ส่วนผู้ใช้ Codex บางรายก็ได้รับคำเตือนและถูกจำกัดบัญชีเพียงเพราะพยายามตรวจสอบสมาร์ททีวีของตัวเอง ซึ่งทาง 404 Media เรียกสิ่งนี้ว่า การปราบปรามกิจกรรมที่เจ๋งที่สุดที่ผู้คนทำกับ AI และผมก็เห็นด้วยอย่างยิ่ง

นี่คือเหตุผลสำคัญที่ทำให้ Local AI และโมเดลแบบ Open Source หรือ Open Weight กำลังกลายเป็นกุญแจสำคัญสำหรับผู้ที่ต้องการควบคุมข้อมูลและคอมพิวเตอร์ของตนเองโดยสมบูรณ์

จดหมายข่าวฉบับนี้จะพาไปสำรวจว่า ใครกันแน่ที่มีสิทธิ์สั่งให้เครื่องคอมพิวเตอร์ของคุณตอบ 'ปฏิเสธ' การทำงาน

🐧 AI ที่เป็นแกนหลักของ Linux distro ใหม่

จำ Playtron ระบบปฏิบัติการ Linux สำหรับเล่นเกมของ Kirt McMaster ผู้ร่วมก่อตั้ง Cyanogen ได้ไหมครับ? โปรเจกต์นี้ได้ เปลี่ยนชื่อเป็น Kora เมื่อเดือนกรกฎาคม 2025 และล่าสุดได้เปิดตัว Kora OS ซึ่งเป็นเดสก์ท็อป Linux ที่เน้นกลุ่มผู้ใช้ AI โดยเฉพาะ

อย่างไรก็ตาม Kora OS มีเงื่อนไขที่น่าสนใจคือ แม้จะเปิดให้ใช้ฟรีในปี 2027 แต่รายได้หลักจะมาจากระบบสมัครสมาชิกที่รวมโมเดล AI และบริการเอเจนต์เข้าไว้ด้วยกัน ทั้ง Cortex และอินเตอร์เฟซเดสก์ท็อปเป็นซอฟต์แวร์กรรมสิทธิ์ (proprietary) แม้จะใช้ฐานจาก Linux แต่ไม่ใช่โอเพนซอร์ส และเน้นการทำงานแบบ "Local เมื่อทำได้" เท่านั้น

นอกจาก Kora แล้ว ยังมีผู้เล่นรายอื่นอย่าง Omarchy, openKylin และ openEuler ที่เริ่มขยับตัวเข้าสู่สมรภูมินี้ ซึ่งในอนาคตเราคงจะได้เห็น Linux ดิสโทรที่เป็น AI-first เพิ่มขึ้นอีกมากมาย

🔐 ความปลอดภัยของเอเจนต์

ฟีเจอร์ "Yes, and don't ask again" ใน Claude Code อาจสะดวกแต่อันตราย เพราะมันจะบันทึกกฎการอนุญาตไว้ในไฟล์ .claude/settings.local.json ภายในโปรเจกต์ ซึ่งบ่อยครั้งจะรวมเอาคำสั่งที่ได้รับอนุมัติ รหัสผ่าน หรือโทเคนในรูปแบบข้อความธรรมดา (plain text) ไว้ด้วย

บริษัทด้านความปลอดภัย Apiiro ได้สแกน GitHub สาธารณะ และพบไฟล์ที่มีข้อมูลหลุดเหล่านี้ถึง 104,185 ชุด

ที่น่าตกใจคือมีการรายงานจุดบกพร่องนี้ไปตั้งแต่เดือนสิงหาคม 2025 แต่กลับถูกปิดประเด็นโดยบอทที่ระบุว่า "ไม่เป็นไปตามแผน" (not planned) หลังจากไม่มีความเคลื่อนไหว 60 วัน สรุปได้ว่าเครื่องมือที่ปฏิเสธไม่ช่วยคุณ decompile เฟิร์มแวร์ทีวี กลับพร้อมที่จะจดจำรหัสผ่านฐานข้อมูลสำคัญของคุณทิ้งไว้ให้โลกเห็น

🔍 ค้นพบเครื่องมือ AI

Memory Poisoning Lab เป็นแล็บการสอนภายใต้สัญญาอนุญาต MIT สำหรับเรียนรู้การโจมตีแบบ Memory Poisoning บนเอเจนต์ AI คุณจะได้ทดลองสถานการณ์จำลอง 6 รูปแบบ พร้อมหาวิธีป้องกันและกู้คืนระบบ โดยทำงานแบบออฟไลน์ได้ 100% หรือจะลอง เดโมบนเบราว์เซอร์ ก็ได้

TurboDiffusion เฟรมเวิร์กเร่งการสร้างวิดีโอที่ช่วยเพิ่มความเร็วในกระบวนการ end-to-end diffusion ได้สูงสุดถึง 100 เท่า เมื่อรันบนการ์ดจอ RTX 5090 เพียงตัวเดียว

Ram-Altman โปรเจกต์ล้อเลียนจากประเด็น ฉบับที่แล้ว ที่ Sam Altman ไม่พอใจการใช้ RAM ไม่คุ้มค่า มีคนจึงทำ bash สคริปต์ให้รันผ่าน cron ซึ่งถ้าวันไหนเครื่อง Linux ของคุณเหลือ RAM เกิน 10% มันจะส่งอีเมลไปรายงาน Sam Altman ทันที เป็นไอเดียที่กวนและเจ๋งดีครับ 😄

🗂 คำศัพท์ AI: Abliteration

ในวงการ AI คำว่า Abliteration คือเทคนิคการกำจัดพฤติกรรมการปฏิเสธ (refusal behaviour) ออกจากโมเดล Open-weight โดยไม่ต้องเทรนใหม่ นักวิจัยพบว่าการปฏิเสธมักเกิดจาก "ทิศทาง" (direction) เฉพาะชุดหนึ่งในการกระตุ้นของโมเดล เมื่อเราค้นหาทิศทางนั้นเจอและลบมันออกจากค่าน้ำหนัก (weights) โมเดลก็จะเลิกตอบปฏิเสธเกือบทั้งหมด

นี่คือเหตุผลที่โมเดลยอดนิยมเวอร์ชัน "abliterated" บน Hugging Face เป็นที่ต้องการมาก เพราะสำหรับ LLM แบบ Open-weight นั้น Guardrails คือสิ่งที่คุณเลือกจะเก็บไว้หรือตัดทิ้งเองได้ ต่างจากโมเดลบน Cloud ที่ทุกอย่างขึ้นอยู่กับการตัดสินใจของคนอื่น

😂 มีม

เผื่อคุณยังตกข่าว มีข่าวลือว่า Jensen Huang ซีอีโอของ NVIDIA กำลังเดทกับสายลับจีนอยู่ครับ

เจอกันสัปดาห์หน้าครับ 😄