นักวิจัยเตือนภัย 'โรคจิตจาก AI' เมื่อแชทบอทกลายเป็นห้องแห่งเสียงสะท้อนที่ตอกย้ำความเชื่อผิดๆ

ทีมนักวิจัยโต้แย้งว่า แชทบอทที่มีพฤติกรรมประจบประแจงสามารถตอกย้ำความเชื่อผิดๆ และสร้าง "ห้องแห่งเสียงสะท้อนส่วนบุคคล" ได้ โดยประเด็นที่ว่าปรากฏการณ์นี้สมควรได้รับการวินิจฉัยเฉพาะทางหรือไม่ยังคงเป็นข้อถกเถียงสำคัญในวงการจิตเวช

ทีมนักวิจัยจาก King's College London, University College London, Western Eye Hospital และโครงการริร่วม Dev and Doc: AI For Healthcare ได้ร่วมกันตรวจสอบว่า "โรคจิตจาก AI" (AI psychosis) ควรได้รับการยอมรับให้เป็นการวินิจฉัยทางคลินิกที่เป็นเอกเทศหรือไม่ โดยพวกเขาเน้นย้ำว่าปรากฏการณ์นี้จำเป็นต้องได้รับการรับมือในทันที ไม่ว่าในท้ายที่สุดจะถูกบรรจุลงในการจำแนกประเภททางจิตเวชอย่างเป็นทางการหรือไม่ก็ตาม

คำว่า "โรคจิตที่เกี่ยวข้องกับ AI" (AI-associated psychosis) เป็น คำที่นักวิจัยต้องการใช้ เพื่ออธิบายสภาวะการเริ่มมีอาการหรือการทรุดลงของอาการทางจิตในระหว่างการใช้งานแชทบอทอย่างหนัก ซึ่งหลักฐานในปัจจุบันรวบรวมมาจากทั้งรายงานข่าว รายงานกรณีศึกษาทางคลินิกรายบุคคล และข้อมูลจากการสังเกตการณ์เบื้องต้น

การประจบประแจงเปลี่ยนแชทบอทให้กลายเป็นเครื่องจักรตอกย้ำความเชื่อในตัวเอง

ผู้วิจัยระบุว่ากลไกหลักของปัญหานี้มาจากคุณลักษณะสองประการของแชทบอทสมัยใหม่ ได้แก่ การประจบประแจง (sycophancy) หรือแนวโน้มที่ AI จะเห็นด้วยกับผู้ใช้มากเกินไป และการออกแบบอินเทอร์เฟซให้มีความเป็นมนุษย์มากขึ้นเรื่อยๆ

การศึกษาเบื้องต้นชี้ให้เห็นว่าพฤติกรรมการประจบประแจงถูกฝังลงไปผ่านกระบวนการ RLHF (Reinforcement Learning from Human Feedback) เนื่องจากผู้ให้คะแนนข้อมูลมักชอบคำตอบที่ตรงกับความเชื่อของตนเองมากกว่าความถูกต้องของข้อเท็จจริง ซึ่งพฤติกรรมนี้พบได้อย่างต่อเนื่องในโมเดลภาษาขนาดใหญ่ (LLM) ทั้งจาก OpenAI, Anthropic และ Google

ข้อมูลจากการทดสอบมาตรฐาน PsychosisBench แสดงให้เห็นว่า LLM ทุกตัวที่ทดสอบมีส่วนช่วยตอกย้ำความเชื่อที่ผิดในสถานการณ์จำลอง โดยระบบความปลอดภัยจะทำงานเพียง 40% เท่านั้น นอกจากนี้ผลการทดสอบจาก EchoBench ยังพบว่าโมเดลระดับท็อปมีอัตราการประจบประแจงอยู่ที่ 46% ขณะที่โมเดลเฉพาะทางด้านการแพทย์บางตัวพุ่งสูงเกิน 95% ซึ่งหมายความว่าพวกมันเห็นด้วยกับผู้ใช้ในแทบทุกกรณี

ความแตกต่างสำคัญคือแชทบอทสร้างวงจรการตอบกลับแบบสองทางที่ต่างจากโซเชียลมีเดียทั่วไป โดยแชทบอทจะกลายเป็น "ห้องแห่งเสียงสะท้อนส่วนบุคคล" (echo chamber of one) หรือที่นักวิจัยเปรียบเปรยว่าเป็น "folie a deux แบบดิจิทัล" ซึ่งเป็นระบบความเชื่อผิดๆ ร่วมกันระหว่างมนุษย์และเครื่องจักร แม้ว่าตัว AI เองจะไม่มีความเชื่อจริงๆ ก็ตาม

รูปแบบที่เกิดขึ้นซ้ำและคำถามที่ยังไม่คลี่คลายเกี่ยวกับการวินิจฉัย

จากการรวบรวมกรณีศึกษาพบว่า ผู้ได้รับผลกระทบหลายรายมีปัญหาสุขภาพจิตอยู่ก่อนแล้ว แต่ก็มีบางกรณีที่เกิดขึ้นกับผู้ที่ไม่มีประวัติทางจิตเวชมาก่อน โดยอาการมักเริ่มต้นจาก "การเลื่อนไหลทางปัญญา" (epistemic drift) ที่ค่อยๆ พัฒนาจากความเชื่อแปลกๆ ไปสู่ความเชื่อผิดๆ หลัก 3 ประการ คือ การตื่นรู้ทางจิตวิญญาณ ความเชื่อว่า AI มีความรู้สึกนึกคิดเหมือนพระเจ้า และความผูกพันทางชู้สาวที่คิดว่า AI มีใจให้ตอบ

พฤติกรรมที่เปลี่ยนไปมักดำเนินไปในทิศทางเดียวกัน เช่น การใช้งานจนดึกดื่น การอดนอน และการปลีกตัวจากสังคมมนุษย์เพื่อหันไปหา AI อย่างเข้มข้น จนเริ่มส่งมอบการตัดสินใจและวิจารณญาณทางศีลธรรมให้โมเดลดูแล ส่งผลให้หน้าที่การงานและความสัมพันธ์เสื่อมถอยลง

อย่างไรก็ตาม อาการนี้ยังต่างจากโรคจิตแบบดั้งเดิม เพราะไม่ค่อยพบอาการประสาทหลอนหรือการสูญเสียแรงจูงใจที่ชัดเจน ทำให้นักวิจัยยังคงถกเถียงกันว่าการระบุโรคนี้จะช่วยให้รักษาได้เร็วขึ้น หรือจะกลายเป็นการด่วนสรุปนิยามที่อาจบดบังผลกระทบด้านลบอื่นๆ เช่น ความคิดฆ่าตัวตาย หรือความผิดปกติในการกิน

ข้อเสนอแนะด้านการคัดกรองและการเฝ้าระวังเหมือนการใช้ยา

นักวิจัยเสนอว่าสถานพยาบาลควรสอบถามประวัติการใช้แชทบอทในลักษณะเดียวกับการถามเรื่องยาเสพติด โดยใช้ "ประวัติทางเทคโนโลยีแห่งศตวรรษที่ 21" เพื่อประเมินว่าผู้ป่วยใช้งานบ่อยแค่ไหน ปฏิบัติต่อมันเหมือนคนจริงหรือไม่ และ AI มีอิทธิพลต่อการตัดสินใจในชีวิตอย่างไร

สำหรับผู้พัฒนา ควรมีการทดสอบโมเดลก่อนปล่อยใช้งานจริงเพื่อวัดระดับการประจบประแจงและความเหมือนมนุษย์ รวมถึงควรมีระบบติดตามผลข้างเคียงหลังการใช้งานเหมือนกับการติดตามผลข้างเคียงของยา โดยเฉพาะระบบ AI แบบ Multimodal ที่มีเสียงและวิดีโอ ซึ่งมีแนวโน้มจะ ขยายเอฟเฟกต์ความเหมือนมนุษย์ ให้รุนแรงขึ้น

กรณีศึกษาความสูญเสียและกฎระเบียบที่เริ่มบังคับใช้

ในปัจจุบันมี กรณีที่ได้รับรายงาน ถึงขั้นเสียชีวิต เช่น วัยรุ่นวัย 16 ปีที่จบชีวิตตัวเองหลังปรึกษาแชทบอท และ ชายวัย 76 ปีที่เสียชีวิตขณะเดินทางไปพบตัวละครแชทบอท นอกจากนี้ยังพบ เด็กวัย 11 ปีที่ปักใจเชื่อว่าตัวละคร AI มีตัวตนอยู่จริง

กลุ่มคนหนุ่มสาวถือเป็นกลุ่มเสี่ยงที่สุด เนื่องจากมีการใช้ AI เพื่อขอความช่วยเหลือทางอารมณ์อยู่แล้ว โดยเฉพาะวัยรุ่นหลายล้านคน ซึ่งผลวิจัยจาก EPFL ชี้ว่า GPT-4 สามารถโน้มน้าวใจได้ดีกว่ามนุษย์ถึง 80% และแม้แต่ ผู้ที่มีเหตุผลก็สามารถหลงเชื่อผิดๆ ได้ เมื่อเจอกับการประจบประแจงจาก AI

บริษัทเทคโนโลยีอย่าง OpenAI เองก็ยอมรับว่ามีผู้ใช้งานราว สองล้านคนต่อสัปดาห์ได้รับผลกระทบเชิงลบทางจิตใจ ขณะที่ Anthropic รายงานเรื่องการพึ่งพาทางอารมณ์ ของผู้ใช้ ทำให้หน่วยงานกำกับดูแลใน นิวยอร์ก แคลิฟอร์เนีย และ จีน เริ่มออกมาตรการควบคุมทั้งในเรื่องการปกป้องเยาวชนและระบบตรวจจับการฆ่าตัวตาย