จีนสั่งแพลตฟอร์ม AI ยักษ์ใหญ่ปิดฟีเจอร์สร้างตัวตนแชตบอตคล้ายมนุษย์

ByteDance และ Alibaba เตรียมปิดฟีเจอร์ที่เปิดให้ผู้ใช้สร้างและพูดคุยกับ AI คู่หูแบบปรับแต่งเอง เพื่อตอบสนองต่อกฎระเบียบใหม่จากรัฐบาลปักกิ่ง รายงานจาก South China Morning Post ระบุว่า Doubao ซึ่งเป็น แชตบอตยอดนิยมที่สุดของจีน ด้วยยอดผู้ใช้งานรายเดือนกว่า 300 ล้านคน จะถอดฟีเจอร์ Persona ออกในวันที่ 15 กรกฎาคม ส่วน Qwen ของ Alibaba จะถอดเอเจนต์ที่เหมือนมนุษย์ออกเร็วกว่านั้นในวันที่ 10 กรกฎาคม และ "ฟีเจอร์เอเจนต์เพิ่มเติม" จะไม่สามารถใช้งานได้ในวันที่ 15 กรกฎาคม

ขณะที่ Yuanbao ของ Tencent ได้ดำเนินการในลักษณะเดียวกันไปแล้วตั้งแต่เดือนมิถุนายน

กฎระเบียบที่เป็นที่มาของการเปลี่ยนแปลงนี้ออกโดย Cyberspace Administration ของจีนในเดือนเมษายน และมีผลบังคับใช้ในวันเดียวกัน โดยกำหนดให้ผู้ให้บริการต้อง เตือนเกี่ยวกับการใช้งานมากเกินไปและเข้ามาแทรกแซงเมื่อตรวจพบพฤติกรรมเสพติด

นอกจากนี้ ยังสั่งแบนเนื้อหาที่กระตุ้นอารมณ์รุนแรงในผู้เยาว์ หรือส่งเสริมให้เกิดการพึ่งพาจนกระทบต่อความสัมพันธ์ในโลกความเป็นจริง รวมถึงห้ามนำข้อมูลการสนทนาที่ละเอียดอ่อนไปใช้เทรนโมเดล

แนวโน้มดังกล่าวไม่ได้เกิดขึ้นแค่ในประเทศจีนเท่านั้น เพราะตั้งแต่ต้นปีที่ผ่านมารัฐแคลิฟอร์เนียได้บังคับใช้กฎหมาย SB 243 กำหนดให้ผู้ให้บริการ AI คู่หูต้องบล็อกการสนทนาเกี่ยวกับการฆ่าตัวตายและการทำร้ายตัวเอง ในขณะที่สหรัฐอเมริกาก็มีกรณีของ OpenAI รวมถึง Character.AI ที่กำลังเผชิญกับการถูกฟ้องร้องจากปัญหาความพึ่งพาทางอารมณ์ที่ก่อให้เกิดอันตรายต่อผู้ใช้งาน