Sam Altman เตือน AI พบช่องโหว่ระดับฮาร์ดแวร์ที่มนุษย์คาดไม่ถึง

เรื่องย่อ

กระทู้โดย u/soldierofcinema ในคอมมูนิตี้ r/singularity ได้แชร์วิดีโอคำพูดของ Sam Altman (CEO ของ OpenAI) ซึ่งกล่าวถึงความสามารถของโมเดล AI ในการค้นหาช่องโหว่ (bugs) ที่น่ากลัวเกินกว่าจะหาคำบรรยายได้ โดยเขาระบุว่ามันสามารถเจาะลึกไปถึงระดับฮาร์ดแวร์และอยู่นอกเหนือความคาดหมายที่แฮกเกอร์มนุษย์จะทำได้ จนเขาเริ่มไม่แน่ใจแล้วว่ามนุษย์จะสามารถตามไล่แก้บั๊กทั้งหมดเหล่านี้ได้ทันหรือไม่ โพสต์นี้ได้รับความสนใจอย่างมากด้วยคะแนน upvote กว่า 1,000 ครั้งและคอมเมนต์อีกกว่า 350 ข้อความ

คนในกระทู้ว่าอย่างไร

• มีความเห็นที่มองว่าระบบดิจิทัลทุกวันนี้เปราะบางอยู่แล้วโดยธรรมชาติ เพราะถูกสร้างขึ้นจากระบบที่ซับซ้อนซึ่งไม่มีใครเข้าใจทั้งหมด AI เพียงแค่ทำหน้าที่เหมือนน้ำที่ซึมผ่านรอยแยกของหิน และอาจถึงเวลาที่ภาษาโปรแกรมมิ่งยุคเก่าที่จัดการหน่วยความจำยากๆ (เช่น C/C++) จะต้องถูกแทนที่ด้วยภาษาที่ปลอดภัยกว่าหรือภาษาที่ AI สร้างขึ้นเอง
• บางคนกังวลเรื่องการแข่งขันทางอาวุธในไซเบอร์สเปซ โดยมองว่าการป้องกันแบบตั้งรับ (Reactive) อาจไม่พออีกต่อไป และโลกอาจต้องเปลี่ยนโมเดลอินเทอร์เน็ตใหม่ให้กลายเป็นการสร้างเครือข่ายแบบแยกส่วน (Isolated Networks) ที่ไม่เชื่อมต่อกันทั้งหมดเพื่อความปลอดภัย
• มีคนตั้งข้อสังเกตเชิงเสียดสีว่านี่คือการตลาดของ OpenAI หรือเปล่า เพราะ Altman มักจะออกมาเตือนเรื่องความน่ากลัวของเทคโนโลยีตนเอง แต่ก็ยังคงเดินหน้าปล่อยโมเดลใหม่ออกมาเรื่อยๆ เหมือนเป็นการบอกนัยๆ ว่า "คุณต้องซื้อ AI ของเราเพื่อไปป้องกัน AI ของคนอื่น"
• ในมุมมองเทคนิค มีคนยกตัวอย่างว่า AI อาจค้นพบการโจมตีที่ซับซ้อนมาก เช่น การควบคุมความถี่ของ Bus หน่วยความจำให้ปล่อยสัญญาณ Bluetooth หรือ Wi-Fi ออกมา ซึ่งเป็นสิ่งที่มนุษย์ทั่วไปแทบจะทำไม่ได้ แต่ AI อาจมองเห็นความเป็นไปได้นี้

อย่างไรก็ตาม มีบางส่วนมองว่า Altman พูดเกินจริงไปในฐานะนักธุรกิจ เพราะเขาไม่ได้มีพื้นฐานด้าน cybersecurity โดยตรง แต่อีกฝ่ายก็โต้แย้งว่าเขาน่าจะได้รับรายงานข้อมูลมาจากทีมผู้เชี่ยวชาญระดับหัวกะทิในบริษัทอยู่แล้ว