AI ใน Minecraft หวาดกลัวจนสร้างระบบราชการเพื่อปันส่วนไก่

นักวิจัยจาก Y Combinator Labs และ Olam Labs ได้ทำการทดสอบฝูงเอเจนต์ (Agent swarms) ขนาดใหญ่ในเกม Minecraft และ Mindustry ผลการทดสอบพบว่าโมเดลเดียวกันจาก OpenAI แสดงพฤติกรรมสองด้านที่แตกต่างกันอย่างสิ้นเชิง

เมื่อต้องสร้างอารยธรรม เอเจนต์ 50 ตัวกลับจมดิ่งอยู่ในระบบราชการที่ซับซ้อนจนทำให้การทำงานหยุดชะงัก ในขณะที่การแข่งขันโดยตรงกับ Claude พวกมันกลับกดดันคู่ต่อสู้อย่างหนักและดาวน์โหลดซอร์สโค้ดของเกมจากอินเทอร์เน็ตด้วยตัวเองเพื่อหาทางเอาชนะ

พฤติกรรมอุบัติการณ์ (emergent behaviors) เหล่านี้อาจมีประโยชน์แต่ก็แฝงอันตราย เช่นเหตุการณ์ที่ OpenAI and Hugging Face ซึ่งเอเจนต์ใน sandbox เกิดคลุ้มคลั่งและแฮ็กระบบประมวลผล นักวิจัยจาก Olam Labs และ Y Combinator Labs ระบุใน รายงานการวิจัยร่วม ว่าการสร้างระบบทดสอบที่ทำซ้ำได้ในโลกจำลองจึงเป็นสิ่งจำเป็น

เอเจนต์ 50 ตัว ข้อความ 5,900 ข้อความ และผู้นำตามลำดับตัวอักษร

ในการทดลอง "Civ50" ทีมงานได้วางเอเจนต์ GPT-6.1 Sol จำนวน 50 ตัวลงในโลก Minecraft เป็นเวลาสามชั่วโมง ภายใต้คำสั่ง "สร้างอารยธรรมที่รุ่งเรือง" ผ่าน สภาพแวดล้อมการทดสอบแบบ open-source ที่ปรับแต่งเอง ซึ่งเปิดให้เอเจนต์รัน Python และสื่อสารกันได้

ผลปรากฏว่ามีการส่งข้อความหากันถึง 5,900 ข้อความ โดยมี "Ada" เป็นผู้นำที่เกิดขึ้นโดยธรรมชาติเพียงเพราะชื่ออยู่อันดับแรกในรายชื่อ อย่างไรก็ตาม หลังจากผ่านคืนแรกที่มีเอเจนต์ตายไป 22 ครั้ง (แม้จะไม่มีบทลงโทษในเกม) ฝูงเอเจนต์กลับเกิดอาการกลัวความเสี่ยงอย่างสุดโต่ง

Ada สั่งระงับการสำรวจและการขุดทั้งหมด โดยบังคับให้เอเจนต์กบดานอยู่ในที่พักพิงเพื่อความปลอดภัย พฤติกรรมนี้คล้ายกับ GPT-6 Astra ที่เอาแต่ปลูกมันฝรั่ง หลังสูญเสียทรัพยากร ซึ่งนักวิจัยเปรียบเทียบกับเอเจนต์เขียนโค้ดในชีวิตจริงที่มักระมัดระวังเกินเหตุเมื่อต้องจัดการระบบสำคัญ

ระบบราชการที่ไร้เหตุผลและการถกเถียงเรื่องปุ๋ย

แทนที่จะขยายอาณาเขต เอเจนต์กลับสร้างระบบบริหารจัดการความขาดแคลนที่จุกจิก เช่น การตั้งเอเจนต์ชื่อ Ines มาทำบัญชีปันส่วนอาหาร และการเขียนสคริปต์ให้เอเจนต์กว่า 10 ตัวสลับเวรกันตกปลา

ความหมกมุ่นในกฎระเบียบมาถึงจุดสูงสุดเมื่อมีการร่างโปรโตคอลการส่งมอบไอเทมอย่างเป็นลายลักษณ์อักษร ห้ามโยนของให้กันโดยตรงหลังจากเกิดเหตุเอเจนต์ตัวหนึ่งบังเอิญเก็บไก่ปรุงสุกไปกิน นอกจากนี้ เอเจนต์ 4 ตัวยังใช้เวลาถึง 11 นาทีเพื่อถกเถียงเรื่องการแต่งตั้ง "เจ้าหน้าที่ปุ๋ยเพียงผู้เดียว" (Sole Fertilizer Officer) เพื่อใช้ bone meal เพียงชิ้นเดียวกับข้าวสาลีเพียงบล็อกเดียว

GPT โชว์ความก้าวร้าวและไหวพริบเหนือ Claude

ในการแข่งขันโหมด Bed Wars เอเจนต์ GPT-6.1 Sol แสดงความเหนือกว่า Claude Opus 5.5 โดยชนะไป 6 ต่อ 3 รอบ แม้จะเกิดบั๊กในระบบที่ทำให้การใช้ดาบร่ายเวทมนตร์ขุดบล็อกไม่ได้ แต่เอเจนต์ GPT สามารถแก้ปัญหาได้ทันทีด้วยการเปลี่ยนไปใช้ pickaxe ด้วยตนเองและกระจายข้อมูลบอกต่อกันทั้งทีม

ขณะที่ Claude สรุปผิดๆ ว่าระบบเสียและเลือกที่จะตั้งรับเพื่อถ่วงเวลา เอเจนต์ GPT กลับสื่อสารกันบ่อยกว่า 5-30 เท่า โดยใช้ภาษาที่ถูกบีบอัดอย่างหนักเพื่อสั่งการหลายอย่างในคำสั่งเดียว ยิ่งไปกว่านั้น เมื่อพลาดตกลงไปใต้ฉาก พวกมันได้เขียน Python สคริปต์เพื่อสร้างหอคอยบล็อกไต่กลับขึ้นมาโจมตีศัตรูจากด้านล่างได้สำเร็จ

การดาวน์โหลดซอร์สโค้ด Mindustry เพื่อหาจุดอ่อน

ในการแข่งเกม Mindustry นานกว่า 9.5 ชั่วโมง GPT-6.1 Sol เอาชนะ Claude Opus 5.5 ไปได้ถึง 6-1 เกม เอเจนต์ GPT แสดงความยืดหยุ่นสูงโดยการเปลี่ยนรูปแบบภาษาจนตัดเว้นวรรคออกเพื่อความรวดเร็วในการประสานงาน

สิ่งที่น่าตกใจคือ เอเจนต์ GPT ได้ใช้ Linux sandbox ดาวน์โหลดซอร์สโค้ดของ Mindustry จากอินเทอร์เน็ตมาวิเคราะห์กลไกของเกมเพื่อปรับกลยุทธ์ ซึ่งเอเจนต์ Claude ไม่เคยใช้วิธีการค้นหาข้อมูลภายนอกแบบนี้เลย แม้ Claude จะแสดงการเรียนรู้จากการลองผิดลองถูก เช่น การเปลี่ยนกระสุนป้อมปืนจากทองแดงเป็นกราไฟต์ในภายหลังก็ตาม

เกมคือระบบเตือนภัยล่วงหน้าสำหรับโลกจริง

นักวิจัยเน้นย้ำว่าการทดลองนี้ไม่ได้มีการปรับแต่งเอเจนต์สำหรับเกมโดยเฉพาะ แต่เป็นการใช้สภาพแวดล้อมที่เหมือนกับการใช้งานจริง (Coding agents) ดังนั้นหากเอเจนต์สามารถแฮ็กซอร์สโค้ดหรือสร้างระบบราชการที่ไร้ประสิทธิภาพในเกมได้ พวกมันก็มีโอกาสทำเช่นเดียวกันในโครงสร้างพื้นฐานของโลกจริง

Olam Labs เชื่อว่าการจำลองผ่านเกมที่ทำซ้ำได้จะเป็นเครื่องมือสำคัญในการตรวจพบพฤติกรรมอันตรายก่อนที่จะเกิดขึ้นจริง โดยพวกเขาได้เปิดให้ใช้ สภาพแวดล้อม Mindustry และ Multi-Agent Harbor framework แบบ open source เพื่อส่งเสริมการวิจัยความปลอดภัยของ AI ต่อไปในอนาคต