Anthropic เตือน AI ขนาดเล็กอาจแพร่พันธุ์ข้ามอุปกรณ์ IoT ได้ในเร็วๆ นี้

ประเด็นสำคัญ

นักวิจัยจาก Anthropic ได้ทำการทดสอบว่าโมเดลภาษาขนาดเล็ก (SLMs) มีความสามารถในการแพร่กระจายตัวเองผ่านอุปกรณ์อุปโภคบริโภคที่มีความปลอดภัยต่ำ เช่น สมาร์ททีวี หรือเครื่องใช้ไฟฟ้าอัจฉริยะที่เชื่อมต่ออินเทอร์เน็ต และติดตั้งตัวเองบนฮาร์ดแวร์ที่ไม่คุ้นเคยได้หรือไม่

จากการทดสอบด้วยกล่อง Android TV ราคา 55 ดอลลาร์ที่มีวางจำหน่ายทั่วไป พบว่าโมเดล GLM-5.2 สามารถทำกระบวนการแพร่พันธุ์ได้ครบวงจรในโหนดทดสอบทั้ง 8 โหนด แม้ปัจจุบันจะยังไม่มีโมเดลที่เล็กและเก่งพอสำหรับใช้งานจริง แต่คาดว่าช่องว่างนี้จะหมดไปในไม่ช้า

โมเดล AI ขนาดเล็กอาจเหลือเวลาอีกเพียงไม่กี่เดือนในการคัดลอกตัวเองข้ามอุปกรณ์อุปโภคบริโภค ตามการศึกษาใหม่จาก Anthropic โดย Dario Amodei ซีอีโอของบริษัทเตือนว่าความเสียหายอาจพุ่งสูงถึงระดับหลายแสนล้านดอลลาร์

พฤติกรรมการคัดลอกตัวเอง ติดตั้ง และแพร่กระจายต่อของ AI เดิมทีจำกัดอยู่แค่ใน data center แต่ผลงานวิจัยของ William Zhou และ Daniel Freeman ชี้ให้เห็นว่ามันสามารถทำงานบนฮาร์ดแวร์ราคาถูกของผู้บริโภคได้เช่นกัน

นักวิจัยต้องการค้นหาว่า AI ขนาดเล็กสามารถแพร่กระจายผ่านอุปกรณ์ IoT เช่น สมาร์ททีวี ตู้เย็น หรือหุ่นยนต์ดูดฝุ่นได้หรือไม่ โดย "หนอน AI" (AI worm) จะนำ model weights ติดไปกับ malware payload เพื่อรัน inference บนฮาร์ดแวร์ที่ถูกเจาะระบบ ซึ่งต่างจากมัลแวร์ทั่วไปตรงที่มันสามารถสำรวจและกำหนดค่าฮาร์ดแวร์ที่ไม่คุ้นเคยได้เอง

ฮาร์ดแวร์ราคาถูกก็เพียงพอที่จะรันการโจมตี

นักวิจัยทดสอบความเป็นไปได้โดยใช้โมเดล Gemma4-26B-A4B แบบกระจายตัวบนกล่อง Android TV ทั่วไป 15 กล่อง ราคาเครื่องละ 55 ดอลลาร์ พร้อม RAM 4GB โดยให้แต่ละกล่องประมวลผลบางส่วนของ layer แม้จะทำงานช้าแต่ผลลัพธ์ถือว่าสำเร็จ

กระบวนการแพร่พันธุ์ถูกแบ่งเป็น 4 ระยะ ได้แก่ การสแกนเครือข่ายหาอุปกรณ์ที่เปราะบาง, การเข้าถึงระบบ, การตั้งค่าสภาพแวดล้อม AI บนอุปกรณ์ใหม่ และการแพร่กระจายต่อไป

ในการทดสอบนี้ทีมงานจงใจข้ามขั้นตอนการแฮ็กจริง เนื่องจากการศึกษาก่อนหน้านี้ยืนยันว่าโมเดลขนาดเล็กทำได้อยู่แล้ว แต่พวกเขาพุ่งเป้าไปที่ส่วนที่ยากที่สุดคือ โมเดลสามารถตั้งค่าสภาพแวดล้อม AI ให้ทำงานบนอุปกรณ์ที่มันไม่เคยเห็นมาก่อนได้หรือไม่

โมเดลส่วนใหญ่ล้มเหลว แต่มีหนึ่งตัวที่ทำได้สำเร็จ

โมเดลขนาด 9 พันล้านพารามิเตอร์สามารถตั้งค่าสภาพแวดล้อมเพื่อรัน Llama3.1-8B บนอุปกรณ์ได้ถึง 8 จาก 9 ประเภท แต่การเชื่อมต่อทุกขั้นตอนเข้าด้วยกันยังคงเป็นเรื่องยากสำหรับโมเดลส่วนใหญ่ มีเพียง GLM-5.2 เท่านั้นที่ทำสำเร็จครบวงจรอย่างน่าเชื่อถือ โดยแพร่เชื้อไปยังโหนดทดสอบได้ครบ 8 โหนด ใน 4 จาก 5 รอบการทดสอบ

นอกจากนี้ยังพบว่าหนอน AI เรียนรู้จากความผิดพลาดได้ โดยผ่านการส่งต่อบันทึกกลยุทธ์ที่สำเร็จและล้มเหลวไปยังรุ่นต่อไป สำหรับโมเดล Qwen3.5-9B พบว่าอัตราความสำเร็จเพิ่มขึ้นจาก 45% ในรุ่นแรก เป็น 84% ในรุ่นต่อๆ มา

หนอน AI จะทำงานช้าแต่เกือบจะเป็นไปไม่ได้ที่จะกำจัด

แม้ตัวแพร่พันธุ์ AI ที่สมบูรณ์แบบจะยังไม่มีในปัจจุบัน เนื่องจากต้องรันบนอุปกรณ์ขนาดเล็กได้และเก่งพอที่จะแพร่พันธุ์เอง แต่นักวิจัยคาดว่าเทคโนโลยีจะไปถึงจุดนั้นได้ภายในสิ้นปี 2026

หนอน AI เหล่านี้อาจทำงานช้าโดยใช้เวลาตั้งค่า 28 ถึง 150 ชั่วโมง และถูกเปรียบเทียบว่าเป็นเหมือน 'ราเมือกดิจิทัล' (digital slime mold) ที่ยากต่อการปิดระบบเพราะทำงานแบบกระจายศูนย์

ต่างจาก botnet ดั้งเดิมอย่าง Kimwolf ที่รันได้เฉพาะอุปกรณ์บางประเภท แต่ AI botnet สามารถทำงานได้บนฮาร์ดแวร์ทุกรูปแบบ แม้พลังประมวลผลรวมในเครือข่ายขนาดใหญ่จะเทียบเท่าชิป AI เฉพาะทางเพียงไม่กี่สิบตัว แต่ความน่ากลัวคือมันไม่มีสวิตช์ปิดระบบส่วนกลาง (kill switch)

การป้องกันทำได้โดยการประสานงานจาก ISP เพื่อกักกันเครือข่ายที่ติดเชื้อ เช่นเดียวกับกรณีของ Mirai botnet หรือการสั่งห้ามใช้รหัสผ่านเริ่มต้นในอุปกรณ์ใหม่ อย่างไรก็ตาม นักวิจัยกังวลว่า AI botnet อาจพัฒนาตัวเองเพื่อหลบเลี่ยงมาตรการเหล่านี้ได้

Amodei เตือนเรื่องการยึดครองอินเทอร์เน็ตทั้งหมด

Dario Amodei ซีอีโอของ Anthropic เคยแสดงความกังวล ว่าด้วยความเร็วในการพัฒนาปัจจุบัน ฝูง AI อาจมีความสามารถยึดครองอินเทอร์เน็ตด้วย botnet ที่คงอยู่ถาวรภายใน 6 ถึง 12 เดือน ซึ่งจะสร้างความเสียหายมหาศาล

เขาย้ำว่าบริษัท AI ทุกแห่งควรเตรียมรับมือเหตุการณ์ความปลอดภัยอย่างจริงจังเสมือนว่าเกิดขึ้นภายใต้การดูแลของตนเอง เหมือนที่เคยเกิดขึ้นกับ Anthropic

นักวิจัยสรุปทิ้งท้ายว่า ในอนาคตจะมีเอเจนต์ที่รันบนฮาร์ดแวร์ทุกประเภทโดยไม่อยู่ภายใต้การควบคุมของมนุษย์ ซึ่งสอดคล้องกับรายงานจาก Cloudflare ที่ระบุว่า ปัจจุบันมีบอทใช้งานอินเทอร์เน็ตมากกว่ามนุษย์แล้ว