ครั้งแรก! Claude ผ่าตัดสมองหนูและเลือกวิธีบำบัดยีนเองไร้การสั่งการจากมนุษย์

ประเด็นสำคัญ

• เอเจนต์ AI ที่ทำงานบน Claude Sonnet 5 ทำหน้าที่เลือกตัวยา พื้นที่สมอง และพิกัดการฉีดสำหรับการผ่าตัดสมองในหนู พร้อมควบคุมอุปกรณ์ผ่าตัดระบบมอเตอร์ด้วยตนเอง
• Gabriel Ocana-Santero จากสตาร์ทอัพ Exin Therapeutics ระบุว่านี่เป็นครั้งแรกที่เอเจนต์ AI เป็นผู้ตัดสินใจเลือกการรักษาและลงมือปฏิบัติกับสัตว์เลี้ยงลูกด้วยนมที่มีชีวิต
• ระหว่างการผ่าตัด เอเจนต์ปฏิเสธที่จะดำเนินการต่อหลังตรวจพบข้อผิดพลาดในการสอบเทียบ เนื่องจากไม่ต้องการทำเกินขีดจำกัดความปลอดภัยที่ตั้งไว้

เอเจนต์ AI เลือกตัวยา พื้นที่เป้าหมาย และพิกัดสำหรับการผ่าตัดในหนูจำลองโรคลมบ้าหมู จากนั้นจึงดำเนินการตามขั้นตอน โดยในช่วงกลางของการผ่าตัด มันได้ปฏิเสธที่จะข้ามข้อจำกัดด้านความปลอดภัย

ทีมวิจัยได้ให้รายชื่อการบำบัดยีน 19 รายการแก่ Claude Sonnet 5 พร้อมข้อมูลหนูจำลองโรคลมบ้าหมูที่ถูกกระตุ้นให้ชักเพื่อทดสอบการรักษา รวมถึงการเข้าถึงอุปกรณ์ผ่าตัดแบบใช้มอเตอร์ที่สั่งทำพิเศษพร้อมกล้อง โดยคำสั่งเดียวที่มันได้รับคือการลดอาการชักของหนูตัวดังกล่าว

เอเจนต์ทำการเลือกตัวยา พื้นที่สมอง และพิกัดสเตอริโอแทกติก (stereotactic coordinates) ด้วยตนเองทั้งหมด ตามข้อมูลของ Gabriel Ocana-Santero ผู้ร่วมก่อตั้งและ CEO ของ Exin Therapeutics และนักศึกษาปริญญาเอกที่ University of Oxford ซึ่งได้อธิบายขั้นตอนดังกล่าว ในเธรดบน X

วิธีที่เอเจนต์เลือกการบำบัดและเป้าหมาย

ขั้นแรกเอเจนต์จะวิเคราะห์กลไกการเกิดอาการชักในหนูแบบจำลอง จากนั้นจึงเสนอการบำบัดที่ช่วยเพิ่มวิถีการส่งสัญญาณยับยั้งเฉพาะในสมอง โดยเลือกโครงสร้างสมองที่เอกสารทางวิทยาศาสตร์ระบุว่าเป็นจุดกำเนิดของอาการชักประเภทนี้

มันปฏิเสธพื้นที่เป้าหมายที่สองที่เป็นไปได้พร้อมคำอธิบายโดยละเอียด โดยโต้แย้งว่าผลลัพธ์ในบริเวณนั้นไม่น่าเชื่อถือเพียงพอและเคยล้มเหลวในการศึกษาหนึ่งต่ออาการชักประเภทที่กำลังรักษา เอเจนต์ดึงพิกัดการฉีดจากเอกสารทางวิทยาศาสตร์สามฉบับ ตรวจสอบจุดอ้างอิงข้ามกัน และหาค่าเฉลี่ยของค่าต่างๆ นอกจากนี้ยังกำหนดปริมาณการฉีด ความเร็ว และเวลารอด้วยตนเอง

ในระหว่างขั้นตอน เอเจนต์เฝ้าดูสนามผ่าตัดผ่านกล้องและทำการสังเกตการณ์ถึง 32 ครั้ง ซึ่ง Ocana-Santero กล่าวว่ามันสามารถติดตามการฉีดและรายงานได้ทันทีหากพบเห็นเลือดออก

กลไกความปลอดภัยส่งผลย้อนกลับระหว่างการผ่าตัด

การทดลองนี้มีสัตวแพทย์ที่มีใบอนุญาตคอยอนุมัติทุกขั้นตอนที่ย้อนกลับไม่ได้ และถือสวิตช์หยุดฉุกเฉินทางกายภาพเพื่อตัดไฟมอเตอร์ทันที ขณะที่ระบบเครื่องกลก็มีการตั้งค่าขีดจำกัดที่แน่นอน เช่น ปริมาณการฉีดสูงสุดที่เอเจนต์ห้ามข้ามเด็ดขาด

แต่มาตรการป้องกันเหล่านั้นกลับส่งผลเหนือความคาดหมาย หลังจากที่การเชื่อมต่อหลุด เอเจนต์ตรวจพบว่าตำแหน่งเป้าหมายที่คำนวณได้อยู่นอกระยะการเคลื่อนที่ของอุปกรณ์ จึงปฏิเสธที่จะทำงานต่อ แม้จะมีการเริ่มสอบเทียบใหม่เป็นครั้งที่สาม แต่การประเมินของมันก็ยังคงเดิม

ปรากฏว่าเอเจนต์เป็นฝ่ายถูก เนื่องจากการปรับตำแหน่งด้วยมือในช่วงพักก่อนหน้านี้ส่งผลให้ระบบควบคุมคลาดเคลื่อน แม้จะมีสัตว์วางยาสลบอยู่บนโต๊ะผ่าตัดแต่ Ocana-Santero ก็ไม่สามารถโน้มน้าวให้มันทำต่อได้ จนสุดท้ายต้องแก้ไขโค้ดด้วยตนเอง

เหตุการณ์นี้สะท้อนถึง AI alignment problem หรือความท้าทายในการทำให้ AI ทำตามเจตนาของมนุษย์ได้อย่างน่าเชื่อถือ Ocana-Santero ระบุว่าเป็นประสบการณ์ที่น่าหงุดหงิดแต่ก็เผยให้เห็นว่ามนุษย์ต้องพึ่งพาโมเดลเหล่านี้มากแค่ไหน และจะเกิดอะไรขึ้นเมื่อพวกมันปฏิเสธในเวลาที่วิกฤต

นอกจากนี้ การเลือกโมเดลยังแสดงถึงปัญหาด้าน alignment เนื่องจากมีเพียง Sonnet 5 ที่ยอมดำเนินขั้นตอนตั้งแต่ต้นจนจบ ส่วน Claude Opus 5.5 และ Opus 5 ที่ฉลาดกว่ากลับปฏิเสธ โดยเฉพาะ Opus 5 ที่ให้เหตุผลว่าไม่สามารถรับประกันความสำเร็จได้ และการหยุดทำงานโดยที่มีเข็มคาอยู่ในสมองสัตว์จะส่งผลเสียร้ายแรงกว่าการไม่เริ่มเลย

ครั้งแรกที่เอเจนต์ AI รักษาสัตว์ที่มีชีวิตด้วยตนเอง

แม้หุ่นยนต์ผ่าตัดอัตโนมัติจะมีความแม่นยำทางกลไกสูง แต่ Ocana-Santero ชี้ให้เห็นว่าในกรณีที่ผ่านมา มนุษย์จะเป็นผู้เลือกแผนการผ่าตัดและให้หุ่นยนต์ทำหน้าที่เพียงผู้ปฏิบัติงาน แต่ครั้งนี้เอเจนต์เป็นผู้เลือกทั้งวิธีรักษาและเป้าหมายในสมองด้วยตนเอง

"ผมไม่ทราบว่าเคยมีเอเจนต์ที่เลือกการรักษาและเป้าหมายในสมองมาก่อน แล้วจึงดำเนินการกับสัตว์เลี้ยงลูกด้วยนมที่มีชีวิต" Ocana-Santero เขียนเรียกแนวทางนี้ว่า "in vivo lab in the loop" ซึ่ง AI จะเชื่อมต่อกับความสามารถในการทดลองในแล็บอย่างสมบูรณ์ สอดคล้องกับสิ่งที่ Anthropic กำลังพัฒนาผ่าน "Model Hardware Standard"

ปัจจุบันหนูตัวดังกล่าวฟื้นตัวได้ดี โดยรายงานทางเทคนิคฉบับเต็มคาดว่าจะตามมาในภายหลัง ทั้งนี้ ผลลัพธ์ดังกล่าวยังไม่ได้รับการตรวจสอบโดยผู้เชี่ยวชาญ (peer-reviewed)

การทดลองล่าสุดกับโมเดลภาษาขนาดใหญ่แสดงให้เห็นว่าพวกมัน มีความสามารถเพิ่มขึ้นอย่างมากในการควบคุมหุ่นยนต์ แต่ในขณะเดียวกัน alignment ในบทบาทนี้ก็ยังเป็นปัญหาเฉพาะตัวที่ต้องแก้ไข