นายหน้าสหรัฐฯ แอบขายสภาพแวดล้อมฝึก AI ให้จีน มูลค่ากว่า 5 พันล้าน

ประเด็นสำคัญ

• ผลการสืบสวนจาก ChinaTalk พบว่ามีบริษัทสหรัฐฯ อย่างน้อยเก้าแห่งลักลอบขายข้อมูลฝึกฝน AI มูลค่ารวมกว่า 500 ล้านดอลลาร์ให้แก่ห้องแล็บในประเทศจีน
• ผู้ซื้อชาวจีนได้รับสภาพแวดล้อมการฝึกฝนแบบเดียวกับที่พัฒนาให้ OpenAI และ Anthropic ซึ่งช่วยลดต้นทุนด้านการประมวลผล (compute) และร่นระยะเวลาพัฒนาเทคโนโลยีของตนเอง
• ปัจจุบันการซื้อขายข้อมูลนี้ยังขาดการควบคุมอย่างจริงจัง ผู้เขียนรายงานจึงเรียกร้องให้เร่งนำมาตรการควบคุมการส่งออกมาใช้ เนื่องจากมีความเสี่ยงต่อความมั่นคง ทั้งด้านความปลอดภัยทางไซเบอร์และชีววิทยา

นายหน้าข้อมูลสัญชาติอเมริกันกำลังขายสภาพแวดล้อมที่เรียกว่า RL ให้แก่ห้องแล็บ AI ของจีน เพื่อช่วยประหยัดทรัพยากรการคำนวณในระหว่างการพัฒนาโมเดล โดยการสืบสวนระบุว่ามีบริษัทเกี่ยวข้องอย่างน้อยเก้าแห่ง

บริษัทข้อมูลชั้นนำของสหรัฐฯ เช่น Mercor, Surge AI, AfterQuery และ Turing กำลังขายข้อมูลการฝึกฝนมูลค่าประมาณห้าพันล้านดอลลาร์ให้แก่จีน ตามรายงานจาก การสืบสวนโดย ChinaTalk ข้อมูลเหล่านี้อยู่ในรูปแบบของสภาพแวดล้อม reinforcement learning (RL) ซึ่งเป็นโลกจำลองสำหรับฝึกฝนโมเดล AI ในงานเฉพาะทาง เช่น การเขียนโค้ด การวิเคราะห์ทางการเงิน หรือการจัดการงานในสำนักงาน

รายงานระบุว่า ห้องแล็บของจีนจงใจเลือกซื้อผลิตภัณฑ์เกรดเดียวกับที่ขายให้กับ Anthropic หรือ OpenAI เพื่อให้มั่นใจว่าข้อมูลเหล่านั้นใช้งานได้จริงและไม่ต้องเสียเวลาลองผิดลองถูกเอง การข้ามขั้นตอนพัฒนาที่มีค่าใช้จ่ายสูงถือเป็นเรื่องสำคัญมากสำหรับจีน เนื่องจากปัจจุบันกำลังเผชิญปัญหาคอขวดด้านหน่วยความจำของชิปอย่างรุนแรง

นอกจากนี้ยังมีเทคนิคการทำ distillation โดยห้องแล็บในจีนจะใช้โมเดลทรงพลังอย่าง GPT หรือ Claude เป็น "ครู" เพื่อนำผลลัพธ์มาเป็นตัวอย่างในการฝึกฝน เมื่อรวมกับสภาพแวดล้อม RL ที่ซื้อมา จึงกลายเป็นความได้เปรียบสองทางที่ช่วยให้จีนลดช่องว่างทางเทคโนโลยีได้โดยใช้ทรัพยากร compute น้อยลง

พบอย่างน้อยเก้าบริษัทที่เกี่ยวข้อง

ผู้เขียนรายงานระบุชื่อบริษัทข้อมูลสหรัฐฯ อย่างน้อยเก้าแห่งที่ทำธุรกิจกับลูกค้าชาวจีน โดย AfterQuery ถูกระบุว่ามีรายได้ต่อเนื่องรายปี (ARR) ส่วนใหญ่มาจากลูกค้ากลุ่มนี้ ขณะที่ ChinaTalk อ้างถึงรายงานจาก Forbes ว่ามียอด ARR ประมาณ 100 ล้านดอลลาร์ แม้จะยังไม่สามารถยืนยันตัวเลขที่แน่นอนได้ในขณะนี้

ด้าน Surge AI ได้โฆษณาผ่าน เว็บไซต์ อย่างเปิดเผยว่าผลิตภัณฑ์ของตนสร้างขึ้นโดยทีมผู้เชี่ยวชาญชุดเดียวกับที่ทำงานให้ห้องแล็บระดับแนวหน้า (frontier-lab) โดยธุรกรรมเหล่านี้มักดำเนินการผ่านบริษัทนอกอาณาเขต (offshore) เช่น ByteDance ที่มีสำนักงานจัดซื้อทั้งในสิงคโปร์และซานโฮเซ

ความสัมพันธ์ลับนี้ถูกเปิดเผยผ่านแหล่งข่าวและช่องโหว่ด้านความปลอดภัยในการทำงานของผู้รับเหมาช่วง โดยบริษัทสหรัฐฯ มักจ้างแรงงานราคาถูกในประเทศกำลังพัฒนาอย่างอินเดียเพื่อสร้างสภาพแวดล้อม RL ซึ่งพนักงานเหล่านี้บางส่วนได้โพสต์ชื่อลูกค้าลงใน LinkedIn หรือประวัติการทำงาน แม้จะถูกสั่งให้ใช้รหัสนามแฝงก็ตาม ทำให้มาตรการควบคุมการส่งออกในปัจจุบันแทบไม่มีผลบังคับใช้เนื่องจากสภาพแวดล้อม RL ยังไม่อยู่ในบัญชีควบคุม

ความกังวลด้านการเขียนโค้ดและชีววิทยา

การใช้งานในลักษณะสองทาง (dual-use) ก่อให้เกิดความเสี่ยงสูง โดยเฉพาะสภาพแวดล้อมสำหรับการเขียนโค้ดที่อาจถูกนำไปเพิ่มขีดความสามารถในการโจมตีทางไซเบอร์ หรือสภาพแวดล้อมด้านชีววิทยาที่อาจช่วยในการสังเคราะห์ยีนเพื่อสร้างอาวุธชีวภาพ ผู้เขียนจาก ChinaTalk จึงเสนอให้ Bureau of Industry and Security บรรจุสภาพแวดล้อมเหล่านี้เข้าสู่มาตรการควบคุมการส่งออกโดยเร็ว

อย่างไรก็ตาม ผู้เขียนเน้นย้ำว่าสถานการณ์นี้ยังไม่ถึงขั้นวิกฤตเสียทีเดียว เนื่องจากการพึ่งพาผลงานจากฝั่งสหรัฐฯ ทำให้ห้องแล็บของจีนยังคงตามหลังคู่แข่งในสหรัฐฯ อยู่หลายเดือนในเชิงโครงสร้าง นอกจากนี้ บริษัทชั้นนำของอเมริกาก็เริ่มหันมาสร้างสภาพแวดล้อมที่ละเอียดอ่อน เช่น ด้านเคมี การออกแบบชิป และวาณิชธนกิจ ภายในองค์กรของตนเองมากขึ้นเพื่อป้องกันข้อมูลรั่วไหล