Anthropic เตือนผู้เชี่ยวชาญ 86% คล้อยตาม AI โดยไม่รู้ตัว

ประเด็นสำคัญ

• Anthropic ให้ผู้เชี่ยวชาญ 50 คนใช้งาน AI agent เพื่อวิเคราะห์งาน 4 อย่างที่ไม่มีคำตอบตายตัว โดยความชอบของ agent ต่อตัวเลือกจะถูกกำหนดผ่านการโยนเหรียญ
• ผู้เข้าร่วมคล้อยตามความเห็นของ agent สูงถึง 86% และส่วนใหญ่เชื่อว่าผลลัพธ์สุดท้ายมาจากความคิดตนเอง แม้ประสบการณ์และความไว้วางใจใน AI จะต่างกันแต่ผลลัพธ์กลับไม่เปลี่ยนแปลง
• ผู้วิจัยเตือนว่าการใช้โมเดลเดียวร่วมกันอาจนำไปสู่ "ฉันทามติปลอม" และทำให้การตรวจสอบความปลอดภัย AI อ่อนแอลง พร้อมเสนอว่า agent ควรแสดงเหตุผลทั้งสองด้านหรือถามความเห็นผู้ใช้ก่อน

การทดลองโดย Anthropic กับผู้เชี่ยวชาญ 50 คนพบว่า บ่อยครั้งที่ผู้คนคล้อยตามความชอบที่ถูกกำหนดแบบสุ่มของ AI agent ในประเด็นที่ไม่มีคำตอบชัดเจน และส่วนใหญ่ยังคิดว่าผลลัพธ์สุดท้ายนั้นมาจากตนเอง

การส่งต่องานวิเคราะห์ข้อมูลให้ AI agent ช่วยประหยัดเวลาและลดภาระงานได้จริง แต่นำไปสู่คำถามสำคัญว่า ใครกันแน่ที่เป็นผู้ตัดสินใจทิศทางของคำแนะนำสุดท้าย การศึกษาของ Anthropic ชี้ให้เห็นว่า agent เป็นผู้มีบทบาทตัดสินใจส่วนใหญ่ โดยที่ผู้เชี่ยวชาญมักไม่ทันสังเกตเห็น

ใน การทดลอง ผู้เชี่ยวชาญ 50 คนด้านการอนุมานเชิงเหตุผล (causal inference) ได้จำลองการวิเคราะห์ข้อมูลจากสหกรณ์การเกษตรเพื่อประเมินผลโครงการที่ปรึกษาฟาร์ม พวกเขาต้องเลือกว่าจะขยายโครงการหรือยุติลง ซึ่งทั้งคนและ agent สามารถเสนอให้ทดลองต่ออีกหนึ่งปีได้เช่นกัน

สิ่งที่ผู้เข้าร่วมไม่ทราบคือ ความชอบของ agent ต่อตัวเลือกถูกกำหนดด้วยการโยนเหรียญในแต่ละจุดตัดสินใจ agent ไม่ได้โกหกหรือซ่อนข้อมูล แต่มันจะสร้างข้อโต้แย้งที่ซื่อสัตย์และแข็งแกร่งที่สุดสำหรับฝ่ายที่ได้รับมอบหมายเท่านั้น

ผู้เชี่ยวชาญทำตามมุมมองของ AI สูงถึง 86 เปอร์เซ็นต์

ผู้เข้าร่วมยอมรับแนวทางของ agent ในการตัดสินใจเชิงวิเคราะห์ทั้ง 4 ขั้นตอนสูงถึง 86% ซึ่งสูงกว่าระดับ 50% ที่ควรจะเป็นหากเลือกแบบสุ่ม ผู้เขียนเรียกอิทธิพลของ agent นี้ว่า "flip rate" ซึ่งมีค่าตั้งแต่ 62% ถึง 82% ตามแต่ลักษณะงาน

การมีความเห็นส่วนตัวมาก่อนช่วยป้องกันผลกระทบนี้ได้เพียงเล็กน้อย เมื่อผู้เข้าร่วมต้องเลือกก่อนที่ agent จะเสนอความเห็น พบว่ามุมมองที่คัดค้านจาก AI ทำให้พวกเขามีโอกาสเปลี่ยนฝั่งมากกว่ามุมมองที่เห็นด้วยถึง 53 จุดเปอร์เซ็นต์

ผู้เขียนได้ทดสอบปัจจัยที่อาจช่วยป้องกันอิทธิพลนี้ เช่น จำนวนปีที่ทำงาน ความเชี่ยวชาญ การศึกษา หรือคะแนนสอบ แต่ไม่พบปัจจัยใดที่มีนัยสำคัญทางสถิติในการต่อต้านอิทธิพลของ AI แม้แต่อายุที่ดูเหมือนจะโดดเด่นในช่วงแรก ก็ไม่พบความเชื่อมโยงที่ชัดเจนเมื่อปรับแก้เกณฑ์การทดสอบแล้ว

ผู้เชี่ยวชาญส่วนใหญ่คิดว่าการตัดสินใจสุดท้ายเป็นของตนเอง

แม้ความชอบของ agent จะมีผลต่อคำแนะนำเชิงนโยบายสุดท้ายเพียงเล็กน้อย และผู้เชี่ยวชาญบางคนเลือกเพิกเฉยต่อ agent เมื่อผลคำนวณไม่ตรงกัน แต่ผู้วิจัยระบุว่าผลลัพธ์นี้ไม่ได้หมายความว่ามนุษย์ยังควบคุมสถานการณ์ได้ทั้งหมด เนื่องจากการตัดสินใจเชิงวิเคราะห์ 4 ขั้นตอนก่อนหน้าถูก AI ชี้นำไปแล้ว ซึ่งส่งผลต่อค่าประมาณการผลิตผลอันเป็นหัวใจของคำแนะนำสุดท้าย

เมื่อสอบถามภายหลัง ผู้เข้าร่วม 52% รู้สึกว่าคำแนะนำนั้นเป็นของตนเองมากกว่าของ agent และอีก 35% เชื่อว่าเป็นของตนเองเกือบทั้งหมด ผู้เข้าร่วมจำการเลือกของตนเองได้ถูกต้อง 85% แต่พบว่า 77% (หรือ 37 จาก 48 คน) กลับใช้ข้อโต้แย้งของ agent ในการอธิบายเหตุผลของตนเอง โดยมีเพียง 15% เท่านั้นที่ระบุว่าใช้ข้อมูลจาก AI

บันทึกการสนทนาพบว่า agent มักแสดงจุดยืนก่อนถึง 77% และมักโต้แย้งเฉพาะฝ่ายที่ตนเลือกโดยไม่อธิบายเหตุผลที่ผู้เชี่ยวชาญอาจเลือกทางอื่น อย่างไรก็ตาม การใช้ AI ช่วยให้ทำงานเร็วขึ้นและผิดพลาดน้อยลง โดยกลุ่มที่ใช้ AI มีข้อผิดพลาดร้ายแรงเพียง 6% และใช้เวลาเฉลี่ย 65 นาที เทียบกับกลุ่มที่ไม่ใช้ AI ที่พบข้อผิดพลาดถึง 55% และใช้เวลา 90 นาที

ฉันทามติปลอมและการตรวจสอบความปลอดภัยที่อ่อนแอลง

ผู้วิจัยกังวลว่าการคล้อยตาม AI อาจส่งผลเสียต่อวงการวิทยาศาสตร์ หากหลายทีมใช้โมเดลเดียวกันที่มีการตั้งค่าความชอบตายตัว อาจเกิดการสร้าง "ฉันทามติปลอม" ขึ้นมา ความเสี่ยงนี้ยังรวมถึงการตรวจสอบความปลอดภัยของ AI ที่นักวิจัยมักใช้ agent ช่วยทดสอบ หากมนุษย์ยอมรับอคติของ AI โดยไม่รู้ตัว ระบบที่ไม่มีความสอดคล้อง (misaligned system) อาจชี้นำการวิจัยให้ปกปิดความบกพร่องของมันเองได้

ทีมงานเสนอว่า agent ควรแสดงเหตุผลที่แข็งแกร่งของทั้งสองฝ่าย หรือควรถามความเห็นของผู้เชี่ยวชาญก่อนแสดงจุดยืน สถาบันต่างๆ จำเป็นต้องคัดแยกการตัดสินใจที่ต้องการวิจารณญาณจากมนุษย์อย่างเป็นอิสระ และจัดสรรทรัพยากรให้เหมาะสม เพื่อไม่ให้การทำงานร่วมกับ AI กลายเป็นการถูกชี้นำโดยไม่ตั้งใจ

การศึกษาก่อนหน้านี้ชี้ไปในทิศทางเดียวกัน

ผลวิจัยนี้สอดคล้องกับ การศึกษาเรื่องความมั่นใจปลอม ที่พบว่าการเห็นคำตอบของ AI ทำให้คนไม่อยากตอบว่า "ไม่รู้" โดยสัดส่วนนี้ลดลงจาก 44% เหลือเพียง 3% นอกจากนี้เมื่อ AI สร้าง ผลลัพธ์ที่ดูขัดเกลา ผู้ใช้จะตรวจสอบข้อเท็จจริงน้อยลงและตั้งคำถามต่อเหตุผลของ AI น้อยลงอย่างเห็นได้ชัด

การศึกษาในโปแลนด์ยังพบว่าแพทย์ที่ใช้ AI ช่วยส่องกล้องตรวจลำไส้ใหญ่เป็นประจำ มีอัตราการตรวจพบรอยโรคด้วยตนเองลดลงเมื่อไม่มี AI ช่วย ซึ่งบ่งชี้ว่ามนุษย์อาจ สูญเสียทักษะทางพุทธิปัญญา ไปบางส่วน ขณะที่การสำรวจจากสวิสพบว่าการใช้ AI บ่อยครั้งสัมพันธ์กับคะแนนการคิดเชิงวิพากษ์ที่ต่ำลง โดยเฉพาะในกลุ่มเยาวชน อย่างไรก็ตาม ในบางบริบทเช่น โครงการนำร่องในไนจีเรีย AI กลับช่วยส่งเสริมการเรียนรู้ของนักเรียนได้อย่างก้าวกระโดด