tag: PyTorch

เจาะลึก 4 ขั้นตอนการเป็นวิศวกร Computer Vision ยุคใหม่ ตั้งแต่คณิตศาสตร์เชิงพื้นที่ไปจนถึงการปรับแต่งโมเดลบนฮาร์ดแวร์ Edge เพื่อตอบโจทย์อุตสาหกรรมในอนาคต

แนะนำเครื่องมือใหม่บน Hugging Face สำหรับตรวจสอบการรองรับโมเดล Transformers บน AWS Trainium พร้อมแจกสคริปต์และชุดข้อมูลผลการทดสอบแบบสาธารณะ

Hugging Face ร่วมกับ Google เปิดตัว TorchTPU ให้ผู้ใช้ PyTorch ใช้งานชิป TPU ได้ง่ายเหมือน GPU รองรับทั้ง Transformers, Diffusers และการปรับแต่งผ่าน Pallas

Google และ Meta ร่วมกันเปิดตัว TorchTPU และ TorchTitan เพื่อเพิ่มประสิทธิภาพการฝึกโมเดล Generative AI ขนาดใหญ่บน Google Cloud TPU ด้วย PyTorch แบบ Native อย่างเต็มรูปแบบ

Google Cloud ประกาศเปิดตัว PyTorch backend แบบ native สำหรับเอนจิน vLLM และ SGLang บน TPU เพื่อเพิ่มประสิทธิภาพการทำ inference และตอบโจทย์การพัฒนา AI ระดับ Agentic

PyTorch 2.15 ปรับปรุงประสิทธิภาพบน Mac ครั้งสำคัญด้วยการรองรับ FP8 เร่งการ decode โมเดลภาษาเร็วขึ้นสูงสุด 6.5 เท่า และลดการใช้หน่วยความจำในการสร้างวิดีโอลงมหาศาล

TorchNeuron เปิดตัว backend ใหม่สำหรับ PyTorch ช่วยให้นักพัฒนาใช้งานโมเดล Transformers และ Diffusers บน AWS Trainium ได้แบบ native โดยไม่ต้องปรับแก้โค้ดซับซ้อน

สอนใช้งาน Structured Data Models ไลบรารีใหม่จาก NVIDIA เพื่อพยากรณ์ข้อมูลแบบตารางและฐานข้อมูลเชิงสัมพันธ์ด้วย Foundation Models โดยไม่ต้องเทรนใหม่

คู่มือการสร้างเวิร์กโฟลว์ทำ Data Augmentation และทดสอบความแข็งแกร่งของโมเดล (Adversarial Robustness) ครอบคลุมทั้งรูปภาพ ข้อความ และเสียง ร่วมกับ PyTorch แบบครบวงจร

คู่มือการใช้ cuDNN Frontend Graph API เพื่อสร้าง Kernel Fusion แบบกำหนดเอง พร้อมเทคนิค Autotuning และการทำ Serialization เพื่อเพิ่มประสิทธิภาพ Deep Learning สูงสุดบน GPU NVIDIA

การที่โมเดลรันผ่านไม่ได้การันตีความถูกต้องของผลลัพธ์เสมอไป บทความนี้เจาะลึก 7 ข้อผิดพลาดใน Python ที่มักถูกมองข้าม ตั้งแต่การจัดการข้อมูลไปจนถึงการบันทึกโมเดล ซึ่งส่งผลให้การทำนายล้มเหลวในขั้นตอนใช้งานจริง

คู่มือการสร้างเวิร์กโฟลว์พยากรณ์อากาศแบบ ensemble ด้วย NVIDIA Earth2Studio บน Colab โดยใช้โมเดล FCN และข้อมูล GFS พร้อมระบบวินิจฉัยพลังงานลมแบบกำหนดเองและการวิเคราะห์ความแม่นยำด้วยตัวชี้วัด RMSE และ CRPS

NVIDIA NeMo Labs เปิดตัว Molt เฟรมเวิร์กสำหรับการวิจัยการเรียนรู้แบบเสริมกำลังเชิงเอเจนต์ (Agentic RL) ที่เน้นความเรียบง่ายด้วยโค้ดเพียง 8,600 บรรทัด พร้อมรองรับการทำงานร่วมกับ Ray และ vLLM โดยตรง

เจาะลึก 5 แหล่งข้อมูลสำคัญที่ครอบคลุมตั้งแต่สถาปัตยกรรม การทำ Fine-tuning ไปจนถึงการปรับใช้ Small Language Models ในงานวิศวกรรมข้อมูลระดับมืออาชีพ

Hugging Face ประกาศอัปเดตใหญ่สำหรับโปรเจกต์ Kernels โดยเพิ่มประเภท Repository ใหม่ เสริมความปลอดภัยด้วย Trusted Publishers และวางรากฐานเพื่อรองรับการสร้าง Kernel โดยใช้ AI Agent

vLLM อัปเกรดแบ็กเอนด์ Transformers ให้มีประสิทธิภาพเทียบเท่าหรือสูงกว่าการเขียนโค้ดเฉพาะทาง ช่วยให้ผู้พัฒนาสามารถรันโมเดล LLM หลากหลายสถาปัตยกรรมได้ทันทีด้วยความเร็วสูงสุด

พาไปดูประสิทธิภาพของ Attention หลากหลายรูปแบบผ่าน Profiler ตั้งแต่เวอร์ชัน Naive ไปจนถึงเทคนิคขั้นสูงอย่าง Flash Attention และ cuDNN เพื่อเข้าใจการทำงานเชิงลึกของ GPU