ธนาคารยักษ์ใหญ่สหรัฐฯ สั่งแบน AI Agent แอบใช้ข้อมูลล็อกอินลูกค้า

AI agent กำลังใช้ข้อมูลล็อกอินที่ลูกค้ามอบให้เพื่อเข้าถึงบัญชีธนาคารโดยไม่ได้รับอนุมัติจากธนาคาร ส่งผลให้ธนาคารรายใหญ่หลายแห่งในสหรัฐฯ รวมถึง Morgan Stanley, JPMorgan, Bank of America และ Wells Fargo เริ่มจำกัดการเข้าถึงจากเครื่องมือภายนอกเหล่านี้

ตามรายงานของ Axios reports ระบุว่าพฤติกรรมดังกล่าวละเมิดนโยบายของธนาคารที่กำหนดให้เจ้าของบัญชีต้องเป็นผู้เข้าสู่ระบบด้วยตนเอง เนื่องจากพบว่า AI agent บางตัวอาจ act on their own หรือทำงานเองโดยไม่มีคำสั่งโดยตรงจากผู้ใช้ ทำให้ Morgan Stanley สั่งบล็อก AI agent โดยสิ้นเชิงแล้ว ขณะที่ JPMorgan, Bank of America และ Citi กำลังดำเนินการในทิศทางเดียวกัน อย่างไรก็ตาม Morgan Stanley ยืนยันว่ายังไม่พบ "rogue AI agents" บนแพลตฟอร์มของตนในขณะนี้

เป้าหมายหลักของกลุ่มธนาคารคือการจำกัดให้ agent เข้าถึงข้อมูลได้แบบ read-only เท่านั้น เพื่อให้เรียกดูรายละเอียดบัญชีได้แต่ไม่สามารถโยกย้ายเงินหรือทำธุรกรรมใดๆ ได้ โดยธนาคารยอมรับว่าแม้ลูกค้าจะต้องการใช้ AI agent แต่ความเสี่ยงด้านความปลอดภัยในปัจจุบันยังสูงเกินไป อีกทั้งระบบของธนาคารส่วนใหญ่ยังไม่สามารถแยกแยะได้ว่า agent กำลังทำงานภายใต้คำสั่งของผู้ใช้ หรือกำลังเข้าถึงบัญชีด้วยตัวมันเอง

ปัจจุบันผู้ใช้สามารถให้สิทธิ์ agent เข้าถึงบัญชีผ่านเบราว์เซอร์ได้ง่ายขึ้นผ่านเครื่องมืออย่าง Computer Use หรือซอฟต์แวร์ open-source อย่าง OpenClaw ซึ่งทำให้การบล็อกการเข้าถึงจากฝั่งผู้ให้บริการทำได้ยากลำบาก

ขณะที่ฝั่งผู้พัฒนาอย่าง OpenAI ก็เพิ่งเปิดตัว dedicated ChatGPT service for financial tasks ในสหรัฐฯ ซึ่งถูกออกแบบมาให้เข้าถึงข้อมูลทางการเงินได้เฉพาะรูปแบบ read-only เพื่อลดข้อกังวลด้านความปลอดภัยลง