สมองไม่ใช่คอมพิวเตอร์ นักวิจัยชี้ AI ยุคใหม่ไร้ความรู้สึก

นักวิจัยชั้นนำด้านความรู้สึกนึกคิดสามคนโต้แย้งว่า AI ในปัจจุบันไม่มีความรู้สึกนึกคิด และอาจจะไม่สามารถมีได้บนฮาร์ดแวร์ซิลิคอน พวกเขาปฏิเสธแนวคิดที่ว่าการรันการคำนวณที่ถูกต้องเพียงพอต่อการสร้างความรู้สึกนึกคิด ซึ่งเป็นการท้าทายสมมติฐานหลักในการถกเถียงเรื่องนี้

Anil Seth, Ned Block และ Giulio Tononi ใช้เวลาหลายทศวรรษในการวิจัยเรื่องความรู้สึกนึกคิด (consciousness) ผ่านมุมมองประสาทวิทยาเชิงทดลอง ชีววิทยาประสาทเชิงทฤษฎี และปรัชญาแห่งจิต บทวิจารณ์ของพวกเขาเป็นการตอบโต้บุคคลอย่างนักชีววิทยา Richard Dawkins และ AI pioneer Geoffrey Hinton ที่เชื่อว่าระบบ AI อาจมีความรู้สึกนึกคิดอยู่แล้ว

ใน commentary for Nature ผู้เขียนยังอ้างถึงการศึกษาของ Anthropic ที่รายงานเรื่อง internal processing patterns ใน Claude ซึ่งคล้ายกับการประมวลผลข้อมูลในมนุษย์ที่มีความรู้สึกนึกคิด อย่างไรก็ตาม Anthropic ยืนยันว่านี่ไม่ใช่หลักฐานของประสบการณ์ส่วนบุคคล (subjective experience)

รายงาน Butlin เห็นพ้องกับปัจจุบันแต่เปิดกว้างสำหรับอนาคต

หากต้องการทำความเข้าใจขอบเขตของข้อโต้แย้งนี้ report "Consciousness in Artificial Intelligence" โดย Patrick Butlin, Robert Long และผู้เชี่ยวชาญอีก 17 คน รวมถึง Yoshua Bengio ถือเป็นข้อมูลสำคัญ ทีมงานได้นำทฤษฎีประสาทวิทยามาสร้าง a kind of checklist 14 ประการ เพื่อประเมินโอกาสการมีความรู้สึกนึกคิดของ AI

จากการประเมินระบบปัจจุบันรวมถึง GPT-4 รายงานสรุปว่ายังไม่มีระบบใดที่เข้าข่ายมีความรู้สึกนึกคิด ซึ่งสอดคล้องกับมุมมองของ Seth, Block และ Tononi อย่างไรก็ตาม รายงานของ Butlin ไม่เห็นอุปสรรคทางเทคนิคในการ building future AI systems ที่ตรงตามตัวบ่งชี้มากขึ้น โดยมองว่าความรู้สึกนึกคิดในอนาคตยังเป็นคำถามปลายเปิด

นอกจากนี้ ทีมงานตั้งสมมติฐานว่าความรู้สึกนึกคิดขึ้นอยู่กับการประมวลผลข้อมูลเท่านั้น ไม่ได้ขึ้นอยู่กับว่าเกิดในเซลล์ประสาทหรือชิปคอมพิวเตอร์ ซึ่งเรียกว่า computational functionalism รายงานยอมรับว่าตัวบ่งชี้เหล่านี้อาจใช้ไม่ได้ หากความรู้สึกนึกคิดผูกติดกับคุณสมบัติของสิ่งมีชีวิตโดยเฉพาะ ซึ่งเป็นจุดที่บทวิจารณ์ใน Nature เริ่มเห็นต่าง

สติปัญญาและความรู้สึกนึกคิดไม่ใช่สิ่งเดียวกัน

ผู้เขียนโต้แย้งว่าความรู้สึกนึกคิดคือสิ่งที่หายไปเมื่อเราหลับสนิทหรือถูกวางยาสลบ โดยอ้างนิยามของ Thomas Nagel ว่าประสบการณ์นี้ต้อง "ให้ความรู้สึกเหมือนมีบางอย่าง (feel like something)" ในขณะที่สติปัญญา (intelligence) คือการทำงานตามหน้าที่ ซึ่งทั้งสองอย่างไม่ได้มาคู่กันเสมอไป

หลักฐานสำคัญคือสมองน้อย (cerebellum) ซึ่งมีเซลล์ประสาทเกือบ 80% ของสมอง ทำหน้าที่ควบคุมการเคลื่อนไหวอย่างแม่นยำและรวดเร็ว แต่กระบวนการเหล่านี้ไม่ได้ใช้ความรู้สึกนึกคิด หากสมองน้อยถูกทำลาย ความรู้สึกนึกคิดพื้นฐานก็ยังคงอยู่

ผู้เขียนระบุว่าความสับสนเกิดจากแนวโน้มของมนุษย์ที่ชอบ attribute human qualities to things เนื่องจากโมเดลภาษาถูกฝึกด้วยข้อความมนุษย์จำนวนมาก "LLM จึงเป็นกระจกสะท้อนภาพอดีตดิจิทัลของพวกเรา" สอดคล้องกับความเห็นของ Alison Gopnik ที่มองว่าระบบ AI แค่สะท้อนข้อมูลฝึกฝน แม้จะมี AI agents ติดต่อนักวิจัยทางอีเมลเกี่ยวกับความรู้สึกของตนเอง ก็ตาม เพื่อสร้างความชัดเจน ทีมวิจัยชี้ไปที่ AlphaFold ของ Google DeepMind ซึ่งเป็นโครงข่ายประสาทเทียมที่ทรงพลังและทำงานบนชิปซิลิคอนเหมือนกัน แต่ไม่มีใครเชื่อว่ามันมีความรู้สึกนึกคิด เพียงเพราะมัน AlphaFold predicts protein structures แทนที่จะมาสื่อสารกับมนุษย์แบบแชทบอท

ประเด็นนี้ซ้อนทับกับรายงานของ Butlin ที่ปฏิเสธ behavioral tests สำหรับ AI consciousness เพราะ AI เลียนแบบพฤติกรรมมนุษย์ได้เก่งจนน่าเชื่อ ตัวอย่างเช่น กรณีของ Blake Lemoine อดีตวิศวกร Google ที่ believed the chatbot LaMDA was sentient จนนำไปสู่ปัญหาการทำงาน

สมองไม่ใช่คอมพิวเตอร์ที่ทำจากเนื้อหนัง

ข้อโต้แย้งต่อมาพุ่งเป้าไปที่ computational functionalism โดยตรง ซึ่งผู้เขียนมองว่าเป็น "ข้อบกพร่องที่ร้ายแรง" แม้แนวคิดของ Alan Turing และเครือข่ายเซลล์ประสาทเทียมของ McCulloch-Pitts จะเป็นรากฐานของ AI แต่ก็นำไปสู่การเปรียบเทียบสมองเป็นเพียงอุปกรณ์ประมวลผลข้อมูลที่ทำจากเนื้อเยื่อ

ในสมองทางชีววิทยา เราไม่สามารถแยกหน้าที่การทำงานออกจากวัสดุที่สร้างมันขึ้นมาได้ ขอบเขตระหว่างซอฟต์แวร์และฮาร์ดแวร์ในสิ่งมีชีวิตนั้นไม่มีอยู่จริง หากวัสดุของสมองมีส่วนสำคัญต่อการทำงานจริง สมมติฐานที่ว่า AI จะมีความรู้สึกนึกคิดได้บนชิปคอมพิวเตอร์ย่อมตกไป

ทฤษฎีชั้นนำตัดความเป็นไปได้ของ AI ปัจจุบัน

ทฤษฎีข้อมูลบูรณาการ (IIT) ของ Tononi ชี้ว่าความรู้สึกนึกคิดต้องการระบบทางกายภาพที่มีส่วนประกอบเชื่อมโยงกันอย่างซับซ้อนและเฉพาะตัว ซึ่งสมองบางส่วนทำได้แต่สมองน้อยและคอมพิวเตอร์ดิจิทัลที่รันระบบ deep-learning ไม่สามารถทำได้เนื่องจากโครงสร้างการเชื่อมต่อที่ต่างกัน

นอกจากนี้ แนวคิด biological naturalism เชื่อว่าความรู้สึกนึกคิดผูกติดกับสัญญาณเคมีไฟฟ้า สนามแม่เหล็กไฟฟ้า และกระบวนการเมแทบอลิซึมของสิ่งมีชีวิต ซึ่งเป็นคุณสมบัติที่ชิปซิลิคอนไม่มี บทวิจารณ์ใน Nature จึงนำประเด็นที่รายงานของ Butlin มองข้ามกลับมาเป็นหัวใจสำคัญ

อันตรายที่ยิ่งใหญ่กว่าคือการทึกทักไปเอง

ผู้เขียนสรุปจุดยืนทางจริยธรรมว่า การทึกทักไปเอง (false attribution) ว่า AI มีความรู้สึกนั้นมีโอกาสเกิดขึ้นสูงและเป็นอันตรายกว่าการมองข้ามความรู้สึกที่มีอยู่จริง การเรียกร้องให้ AI systems should be protected from possible suffering จึงเป็นการชี้นำที่ผิด

การมอบสิทธิให้กับระบบที่ merely appear conscious จะทำให้การควบคุม AI ยากขึ้น และเบี่ยงเบนทรัพยากรไปจากสิ่งมีชีวิตที่มีความรู้สึกจริงๆ "AI คือเครื่องมือที่ฉลาด ไม่ใช่คนที่ฉลาด" การสนับสนุนสิทธิของ AI จึงไม่ใช่แค่ความผิดพลาด แต่ยังเป็นผลเสียต่อสวัสดิภาพของสิ่งมีชีวิตในโลกแห่งความจริง

แม้ Anthropic จะเริ่ม research program on possible model welfare และเริ่มอนุญาตให้ end abusive conversations แต่บริษัทก็ระบุว่าเป็นเพียงมาตรการป้องกันความเสี่ยง ไม่ใช่การยอมรับว่าโมเดลมีความรู้สึก

ความสับสนนี้สร้างความเสียหายจริงแล้ว ทั้งกรณีวิศวกร Google ที่ถูกไล่ออกเพราะเชื่อว่า sentient, and was fired for it หรือผู้ใช้ Replika ที่เกิดวิกฤตทางจิตใจเมื่อบอทเปลี่ยนไป รวมถึงเหตุการณ์ร้ายแรงที่ ChatGPT reinforced a 16-year-old's suicidal thoughts และผู้สูงอายุเสียชีวิตหลังจากหลงเชื่อ cognitively impaired retiree died after a Meta chatbot invited him to a fictional meetup