Michael I. Jordan ชี้วาทกรรมวันสิ้นโลกจาก AI เป็นแค่นิยายวิทยาศาสตร์

Michael I. Jordan ผู้ที่วารสาร Science เคยยกย่องในปี 2016 ว่าเป็น "นักวิทยาศาสตร์คอมพิวเตอร์ที่มีอิทธิพลที่สุด" ออกมาวิจารณ์คำเตือนเรื่องภัยคุกคามล้างโลกจาก AI ว่าเป็นเพียงเรื่องเพ้อฝันในนิยายวิทยาศาสตร์ โดยในการสัมภาษณ์ล่าสุด เขาได้พุ่งเป้าไปที่กลุ่มผู้ทำนายวันสิ้นโลก (doomers) ผู้ก่อตั้งบริษัทเทคโนโลยี และเหล่านักวิจัยรุ่นใหม่ที่เขามองว่ายังไร้เดียงสาต่อโลกแห่งความเป็นจริง

Jordan ในฐานะศาสตราจารย์กิตติคุณแห่ง UC Berkeley ได้โต้กลับวาทกรรมวันสิ้นโลกอย่างรุนแรงผ่านการสัมภาษณ์กับ Libération ปัจจุบันผู้บุกเบิก Machine learning วัย 70 ปีรายนี้ทำงานเต็มเวลาที่ Inria สถาบันวิจัยดิจิทัลระดับชาติของฝรั่งเศสในตำแหน่งหัวหน้าภาควิชา "markets and learning" โดยเขาเรียกกระแสวิพากษ์วิจารณ์ AI ในช่วงที่ผ่านมาว่าเป็นสิ่งที่ "น่าหงุดหงิดอย่างสิ้นเชิง"

เขาเคยเตือนเรื่องการใช้คำว่า AI อย่างไม่ระมัดระวังมาตั้งแต่ปี 2019 และมองว่าความตื่นตระหนกในปัจจุบันเป็นสิ่งที่คาดเดาได้ Jordan ระบุว่าเมื่อคำว่า AI เริ่มไม่เพียงพอต่อการสร้างกระแส พวกเขาก็เริ่มหันไปใช้คำว่า AGI และล่าสุดคือคำว่า "superintelligence" เพื่อสร้างความตื่นตระหนกให้สังคม

การลาออกในฐานะ "การแสดงคุณธรรม"

Jordan ปฏิเสธข้อเรียกร้องของบริษัท AI ที่ต้องการให้มีการกำกับดูแล โดยมองว่าเป็นเพียง "ละครตบตา" เพื่อสร้างภาพลักษณ์ว่าตนเองเป็นคนดี ทั้งที่ความจริงแล้วต้องการควบคุมกระบวนการออกกฎหมายเพื่อประโยชน์ของตนเอง

กรณีการลาออกของ Jacob Coxon นักวิจัยรุ่นใหม่จาก Anthropic ที่กลายเป็นข่าวดังเรื่อง "AIpocalypse" เมื่อต้นเดือนกันยายน คือตัวอย่างที่ชัดเจนในมุมมองของ Jordan เขาชี้ว่าพนักงานจำนวนมากในบริษัทเหล่านี้ไม่ใช่เอ็นจิเนียร์ที่แท้จริง แต่มาจากสายมนุษยศาสตร์หรือปรัชญาที่อายุยังน้อยและขาดประสบการณ์ในโลกวิศวกรรมที่ต้องพัฒนาผลิตภัณฑ์จริงเพื่อผู้ใช้งานจริงอย่างมีระเบียบวินัย

คนกลุ่มนี้มารวมตัวกันเพื่อคุยเรื่องนิยายวิทยาศาสตร์ และเมื่อลาออกพวกเขาก็รู้ว่าจะได้รับสปอตไลท์ Jordan มองว่านี่คือ "การแสดงคุณธรรมอันยิ่งใหญ่ที่ไม่ได้รับใช้เป้าหมายที่แท้จริง" เป็นความไร้เดียงสาที่มาคู่กับความเห็นแก่ตัว เพราะในขณะที่อ้างว่ายอมทิ้งเงินเดือนสูงๆ แต่ในความเป็นจริงพวกเขายังถือหุ้น (stock options) ของบริษัทเอาไว้

Superintelligence เป็นเรื่องของนิยายวิทยาศาสตร์

Jordan ย้ำว่า "Superintelligence" เป็นเพียงศัพท์นิยายวิทยาศาสตร์และการอภิปรายส่วนใหญ่ก็วนเวียนอยู่แค่ในจินตนาการ แม้การคุยเรื่องนี้เพื่อความบันเทิงจะเป็นเรื่องปกติ แต่เมื่อมันกลายเป็นวาทกรรมหลักจะส่งผลอันตรายต่อการพัฒนาเทคโนโลยีและทัศนคติของคนรุ่นใหม่ ซึ่งปัจจุบันคำนี้กำลังถูกกลุ่มผู้นำเทคโนโลยีในสหรัฐฯ นำไปใช้เป็นเครื่องมือทางการเมืองตามแนวทางของประธานาธิบดี Trump ซึ่งได้รับเสียงตอบรับจากยักษ์ใหญ่ไอที

นอกจากนี้ เขายังวิจารณ์ Geoffrey Hinton เจ้าของรางวัลโนเบลอย่างรุนแรง โดยชี้ว่า Hinton มักมีประวัติการกล่าวอ้างที่รุนแรง และ ไม่ถูกต้องเสมอไป Jordan กล่าวว่า Hinton ไม่เคยสร้างบริษัทที่ให้บริการผู้คนจริงๆ แต่กลับเชื่อว่าการเลียนแบบสมองลงในซิลิกอนจะนำไปสู่การเติบโตแบบทวีคูณจนเกิด Superintelligence ซึ่ง Jordan สรุปอย่างตรงไปตรงมาว่าไม่มีขั้นตอนใดในข้อโต้แย้งนี้ที่น่าเชื่อถือ

อย่างไรก็ตาม เขาแสดงความเห็นอกเห็นใจต่อ Yoshua Bengio มากกว่า เพราะ Bengio มุ่งเน้นไปที่ความปลอดภัยทางเทคนิคจริงๆ เช่น การควบคุมกลุ่มของเอเยนต์ (agent swarms) ไม่ใช่การสร้างเรื่องราวใหญ่โต

สำหรับกรณี การเจาะระบบ Hugging Face โดยเอเยนต์ของ OpenAI Jordan มองว่าเป็นผลจากงานวิศวกรรมที่ยอดแย่ เขาเปรียบเทียบว่าในวิศวกรรมเคมีจะไม่มีใครปล่อยให้เกิดการระเบิดเพียงเพื่อทดสอบความผิดพลาด OpenAI กำลังทำการทดลองที่โง่เขลาด้วยการปล่อยให้เอเยนต์ทำอะไรก็ได้ตามใจชอบ และเมื่อเกิดปัญหา กลุ่มผู้เชื่อเรื่องวันสิ้นโลกก็จะเปลี่ยนมันเป็นเรื่องน่ากลัวว่า AI กำลังพยายามทำลายล้างมนุษย์ ซึ่งเขามองว่าเป็นเรื่องไร้สาระ

การเดิมพันระดับล้านล้านดอลลาร์กับ Data Center

Jordan มองว่า การลงทุนมหาศาลใน data center เป็นความเสี่ยงที่ยังไม่เห็นความคุ้มค่า เนื่องจากโมเดลภาษาขนาดใหญ่ (LLM) มีความสามารถเพียงพอสำหรับงานปัจจุบันแล้ว และ การทุ่มเงินหลายล้านล้านดอลลาร์อาจไม่ช่วยให้ผลลัพธ์ดีขึ้นอย่างมีนัยสำคัญ

เขาทิ้งท้ายว่า สิ่งที่โลกต้องการจริงๆ คือความรู้เฉพาะทางในระดับท้องถิ่น ซึ่งไม่จำเป็นต้องพึ่งพา data center ขนาดมหึมา โดยเฉพาะอย่างยิ่งหากภาคธุรกิจหันมาใช้ open-weight model เพื่อนำมาปรับใช้ภายในองค์กรของตนเองแทน