หัวหน้าฝ่าย AI ของ Tencent เตือนโลกเตรียมรับมืออาวุธชีวภาพจาก AI

หัวหน้านักวิทยาศาสตร์ AI ของ Tencent ออกโรงเตือนว่า ในไม่ช้า AI จะมีขีดความสามารถสูงพอที่จะพัฒนาอาวุธชีวภาพได้ โดยมองว่าทั้งโมเดลแบบเปิด (Open Source) และแบบปิด (Closed Source) ต่างก็ไม่สามารถแก้ปัญหานี้ได้เพียงลำพัง

Vinces Yao Shunyu อดีตพนักงาน OpenAI ซึ่งปัจจุบันเป็นหัวหน้านักวิจัยของ Tencent สนับสนุนแนวทางสายกลางในการพัฒนา AI ตามรายงานของ South China Morning Post เขาเชื่อว่าการผสมผสานโมเดลทั้งสองระบบจะช่วยให้ทุกฝ่ายเข้าถึงเทคโนโลยีเพื่อการป้องกันได้เท่าเทียมกัน

อย่างไรก็ตาม ความปลอดภัยด้านชีววิทยาซับซ้อนกว่าความปลอดภัยทางไซเบอร์ เพราะแยกฝั่งโจมตีและฝั่งป้องกันออกจากกันได้ยาก Yao จึงเรียกร้องให้อุตสาหกรรมเพิ่มความระมัดระวังเป็นพิเศษ เนื่องจากปัจจุบันช่องว่างเทคโนโลยี AI ระหว่างจีนและสหรัฐฯ นั้นแคบลงมาก

Yao ยกตัวอย่างจากเหตุการณ์ hacking incident at Hugging Face เพื่อชี้ให้เห็นข้อดีข้อเสียของแต่ละระบบ โดยครั้งนั้นโมเดลแบบปิดอย่าง Claude ของ Anthropic ปฏิเสธการวิเคราะห์ชุดคำสั่งโจมตีเนื่องจากมีตัวกรองความปลอดภัยที่เข้มงวดเกินไป ทำให้แพลตฟอร์มต้องหันไปใช้โมเดลแบบเปิดของจีนอย่าง GLM-5.2 ในการวิเคราะห์ Log แทน

สิ่งที่กรณีของ Hugging Face สะท้อนให้เห็น

ข้อมูลจาก Hugging Face report ยืนยันว่าโมเดลแบบเปิดช่วยงานนิติวิทยาศาสตร์ได้จริง แต่การยับยั้งการโจมตีสำเร็จมาจากทีมรักษาความปลอดภัยที่เข้าไปแพตช์ช่องโหว่และจัดการระบบใหม่ นอกจากนี้ยังระบุว่าเหตุการณ์นี้ไม่ใช่เหตุผลที่จะมาต่อต้านการใช้ตัวกรองความปลอดภัยในโมเดลแบบปิด

ด้าน Anthropic ได้แสดงจุดยืนต่างจากบริษัทอื่น โดยไม่ได้ร่วมลงนามในจดหมาย letter ที่สนับสนุนโมเดลแบบเปิดของ Nvidia โดย CEO Dario Amodei แย้งว่าโมเดลแบบเปิดมีความเสี่ยงสูงกว่า เพราะหากเผยแพร่ Model Weights ไปแล้วจะไม่สามารถเรียกคืนได้ และการบังคับใช้กลไกความปลอดภัยทำได้ยากกว่ามาก

ปัญหาระหว่างโมเดลเปราะบางและตัวกรองที่เข้มงวดเกินไป

เทคนิคที่เรียกว่า Abliteration เผยให้เห็นจุดอ่อนของโมเดลแบบเปิด เพราะผู้ที่มีไฟล์ Weights สามารถเจาะเอาระบบกรองความปลอดภัยออกได้ ปัจจุบันพบโมเดลดัดแปลงนับพันรายการบน Hugging Face ขณะที่สตาร์ทอัพอย่าง Abliteration.ai ก็นำโมเดลที่ถูกปลดล็อกความปลอดภัยมาวางขาย วิธีการแก้ปัญหาที่ยั่งยืนกว่าจึงเป็นการคัดกรองข้อมูลอันตรายออกตั้งแต่ขั้นตอนการเทรน

ทางการจีนเริ่มตื่นตัวต่อประเด็นนี้เช่นกัน โดยหน่วยงาน TC260 กำลังจัดทำมาตรฐานความปลอดภัยสำหรับ Open-source AI และมีแผนร่าง draft export control framework เพื่อควบคุมโมเดลขนาดใหญ่พิเศษ แต่ทั้งจีนและสหรัฐฯ ยังไม่มีข้อกำหนดชัดเจนว่าความสามารถระดับใดที่ห้ามเผยแพร่แบบสาธารณะ

ในฝั่งโมเดลแบบปิด OpenAI และ Anthropic เลือกแชร์โมเดลระดับสูงผ่านโปรแกรมเฉพาะกลุ่มอย่าง Project Glasswing และ Daybreak เท่านั้น ขณะที่การตั้งค่าความปลอดภัยของ Claude Fable 5 ถูกวิจารณ์ว่าเข้มงวดเกินไป จนบางครั้งระบบระบุว่าการสแกน MRI เป็นภัยก่อการร้ายทางชีวภาพ ซึ่ง Anthropic ก็ยอมรับในข้อผิดพลาดนี้

Tencent เตรียมรับมือความเสี่ยงเหล่านี้ด้วยการเปิดตัวโมเดล Hy4 ในรูปแบบ Open-weight เร็วๆ นี้ โดยบริษัทระบุว่าได้กรองข้อมูลด้านการแฮ็กและข้อมูลอันตรายออกจากชุดข้อมูลเทรนโดยตรง ซึ่งจะช่วยให้โมเดลมีความทนทานต่อเทคนิค Abliteration และลดความเสี่ยงด้านชีวภาพให้อยู่ในระดับที่ควบคุมได้