นักคณิตศาสตร์จ่อคว่ำบาตร OpenAI หลัง AI ปล่อยบทพิสูจน์ล้นวงการ

สมาคมคณิตศาสตร์เพื่อมนุษยชาติ หรือ Association for Human Mathematics (AHM) ออกมาเรียกร้องให้มีการคว่ำบาตร OpenAI หลังจากบริษัทเผยแพร่ต้นฉบับงานเขียนทางคณิตศาสตร์ที่สร้างโดย AI หลายร้อยฉบับ ซึ่งงานวิจัยเหล่านี้มีความซับซ้อนและใช้สำนวนแปลกประหลาดจนแม้แต่ผู้เชี่ยวชาญระดับโลกยังต้องพึ่งพา AI ในการถอดความ สถานการณ์นี้ก่อให้เกิดข้อพิพาทว่าปัญหาหนึ่งๆ จะถือว่าได้รับการแก้ไขแล้วหรือไม่ หากมนุษย์ยังไม่สามารถทำความเข้าใจบทพิสูจน์นั้นได้อย่างถ่องแท้

AHM กล่าวหาว่า OpenAI ละเมิดบรรทัดฐานหลักของการวิจัยทางวิทยาศาสตร์ด้วยการเผยแพร่ บทพิสูจน์โดย AI ในลักษณะที่ส่งผลเสียต่อวงการวิชาการ พร้อมกระตุ้นให้นักคณิตศาสตร์ยุติการร่วมงานกับบริษัทดังกล่าวทันที

Terence Tao นักคณิตศาสตร์รางวัล Fields Medal ในฐานะประธานกลุ่ม ได้เผยแพร่แถลงการณ์ผ่านโพสต์รับเชิญ บนบล็อกส่วนตัว พร้อมระบุถึงการก้าวเข้าสู่ยุค "Math 2.0" ที่การแก้โจทย์ไม่ควรเป็นเป้าหมายหลักอีกต่อไป ขณะที่ Scott Aaronson นักทฤษฎีความซับซ้อน ถึงกับเรียกปรากฏการณ์นี้ว่า "Mathocalypse" ผ่าน บล็อกของเขา

ความขัดแย้งนี้ ยืดเยื้อมานานหลายเดือน หลังจาก OpenAI อ้างว่าโมเดลภายในสามารถแก้ ปัญหาคณิตศาสตร์ปลายเปิดได้มากกว่า 100 ปัญหา ภายในเดือนเดียว รวมถึงปัญหา Navier-Stokes Millennium Problem แม้บริษัทจะจัดตั้งกลุ่มที่ปรึกษา AGMAI ขึ้นมาเพื่อลดกระแสวิจารณ์ แต่ดูเหมือนกลุ่มดังกล่าวจะไม่มีอำนาจยับยั้งความเร็วในการวิจัยของบริษัทได้

AHM มองว่าการเผยแพร่ครั้งนี้เป็นการแสดงแสนยานุภาพ

AHM ระบุว่า OpenAI เมินเฉยต่อคำแนะนำของ AGMAI ที่ไม่ให้ทดสอบโมเดลกับปัญหาคณิตศาสตร์ขั้นสูง โดยแถลงการณ์ย้ำว่าการปล่อยไฟล์งานกว่า 700 ไฟล์ในคราวเดียวนั้น "ไม่ใช่การแสดงความเป็นวิชาการ แต่เป็นการแสดงแสนยานุภาพ" ที่นักคณิตศาสตร์ไม่ได้ร้องขอ

นอกจากนี้ แถลงการณ์ยังเชื่อมโยงไปถึงคดีลิขสิทธิ์ที่ OpenAI เผชิญอยู่ทั่วโลก โดยบอกเป็นนัยว่าผลลัพธ์เหล่านี้อาจมาจากการฝึกฝนโมเดลด้วยผลงานของนักคณิตศาสตร์ที่เป็นมนุษย์ ทั้งนี้ เคยเกิดข้อสงสัยในทำนองเดียวกันเมื่อครั้งการประกาศคำตอบ ปัญหา Navier-Stokes ซึ่งเกิดขึ้นก่อนหน้าที่นักวิจัยอิสระจะนำเสนองานของตนเองเพียงไม่นาน ทำให้เกิดคำถามเรื่องการใช้ ข้อมูลจากการโต้ตอบกับผู้ใช้ มาพัฒนาโมเดลของตนเอง

Aaronson เปรียบเทียบเรื่องนี้กับแนวทางของ Anthropic ที่เลือก เป็นพันธมิตรกับนักวิจัย เพื่อสร้างบทพิสูจน์ที่มนุษย์เข้าใจได้และมีการให้ค่าตอบแทนที่เหมาะสม ต่างจากวิธีของ OpenAI ที่ทิ้งงานดิบจำนวนมหาศาลไว้ให้ชุมชนนักคณิตศาสตร์ต้องแบกรับภาระตรวจสอบโดยไม่มีใครเหลียวแล

AI กำลังไขปัญหาคณิตศาสตร์ได้เร็วกว่าที่ใครจะตรวจสอบผลลัพธ์ได้ทัน

Terence Tao พร้อมด้วย เจ้าของรางวัล Fields Medal อีก 24 คน เคยเตือนถึงความขัดแย้งระหว่างอุตสาหกรรม AI กับเป้าหมายของคณิตศาสตร์ พวกเขามองว่าการเร่งผลิตคำตอบจำนวนมากอาจทำลายมิติความเข้าใจเชิงมโนทัศน์ และนำไปสู่ปัญหาเรื่องการคัดลอกผลงาน

บนแพลตฟอร์ม Mastodon Tao แสดงความกังวลว่าความงดงามของคณิตศาสตร์แบบดั้งเดิมที่เน้นการเสวนาและร่วมมือกันกำลังหายไป เพราะปัญหาถูกแก้ไขโดยอัตโนมัติจากผู้ใช้ AI ที่ไม่สนใจในเนื้อหา ผลที่ตามมาคือความเสียหายที่ไม่สามารถย้อนกลับได้ เมื่อปัญหาถูกตีตราว่า "แก้ได้แล้ว" นักวิจัยรุ่นใหม่จะขาดแรงจูงใจในการค้นหาแนวทางอื่นที่อาจให้ข้อมูลเชิงลึกได้ลึกซึ้งกว่า

Tao เชื่อว่าโลกคณิตศาสตร์ต้องปรับตัวโดยลดการให้คุณค่ากับคำตอบสุดท้าย และหันไปให้ความสำคัญกับการอธิบายรวมถึงการสร้างชุมชนวิจัย แม้ก่อนหน้านี้เขาจะเคยวาดฝันเรื่อง "คณิตศาสตร์อุตสาหกรรม" ที่ AI เป็นเพียงผู้ช่วย แต่ปัจจุบันสถานการณ์กลับตาลปัตร กลายเป็น AI ที่แก้ปัญหาลึกซึ้งขณะที่มนุษย์เป็นเพียงผู้ตามล้างตามเช็ดตรวจสอบผลลัพธ์ ซึ่งสะท้อนว่าเขา ประเมินความเร็วของ AI ต่ำไปมาก

Timothy Gowers หนึ่งในสมาชิก AGMAI ได้แบ่งปันมุมมองจากผู้เชี่ยวชาญด้าน machine learning ที่สะท้อนถึงการเปลี่ยนแปลงในวงการ | ภาพ: Screenshot X

พลังการประมวลผลของ AI เพียงสามชั่วโมงสามารถเทียบได้กับทั้งอาชีพของนักคณิตศาสตร์

Aaronson ยกตัวอย่างกรณีของ Dana Moshkovitz ภรรยาของเขาที่ทุ่มเททั้งชีวิตให้กับ Unique Games Conjecture แต่กลับพบว่า AI ของ OpenAI เคลมว่าแก้ปัญหานี้ได้แล้วในงานที่เผยแพร่ออกมา เธอวิจารณ์ว่าเนื้อหาเหล่านั้นอ่านแล้วเหมือนคนใช้สารหลอนประสาท เพราะเต็มไปด้วยโครงสร้างที่บ้าคลั่งและอ่านไม่รู้เรื่องหากไม่มี AI ช่วย

สิ่งที่น่ากังวลคือ OpenAI ได้ทดสอบปัญหาไปกว่า 8,000 ประเด็น โดยมีอัตราความสำเร็จร้อยละ 5 และใช้เวลาประมวลผลเฉลี่ยเพียง 3 ชั่วโมงต่อหนึ่งปัญหา แต่สาขาที่หายไปอย่างมีนัยสำคัญคือ การเข้ารหัสลับ (Cryptography) ซึ่งมีรายงานว่าบริษัทกำลังซุ่มสำรวจ จุดอ่อนในโปรโตคอลการเข้ารหัสลับ อยู่ในขณะนี้

นักคณิตศาสตร์มีความเห็นต่างกันว่าการคว่ำบาตรจะช่วยได้หรือไม่

ความคิดเห็นในแวดวงนักวิชาการยังคงแตกแยก บางส่วนสนับสนุนการคว่ำบาตรและเสนอให้ปกป้องคลังข้อมูลอย่าง arXiv จากการถูกนำไปฝึก AI แต่บางส่วนมองว่าเป็นเรื่องที่เป็นไปไม่ได้ที่จะหยุดยั้ง OpenAI และการเปิดเผยผลลัพธ์สู่สาธารณะยังดีกว่าการเก็บไว้เป็นความลับ

ด้าน กลุ่ม AGMAI มีท่าทีประนีประนอมกว่า AHM โดยมองว่าเป็นเพียงจุดเริ่มต้นของการทำความเข้าใจ แต่ย้ำเตือนว่าอนาคตของคณิตศาสตร์ไม่ควรถูกผูกขาดโดยห้องปฏิบัติการ AI เพียงอย่างเดียว นักคณิตศาสตร์ต้องมีเสรีภาพในการตั้งคำถามและเข้าถึงทรัพยากรอย่างเท่าเทียม เพื่อกำหนดทิศทางการวิจัยด้วยตนเองต่อไป