เชื่อมต่อ Hugging Face สู่ Amazon SageMaker Studio ในคลิกเดียว: ปรับแต่งและติดตั้งโมเดลได้ทันที
วันนี้ เรามีความยินดีที่จะประกาศการรวมระบบแบบ deep-link ระหว่าง Hugging Face และ Amazon SageMaker AI ที่ช่วยให้นักพัฒนาสามารถข้ามขั้นตอนจากการค้นพบโมเดลไปสู่การทดลองใช้งานจริงใน SageMaker Studio ได้เพียงคลิกเดียว ไม่ว่าคุณจะต้องการ fine-tune foundation model (FM) ผ่าน Amazon SageMaker JumpStart หรือติดตั้งใช้งานบน Amazon SageMaker Inference endpoint ตอนนี้คุณสามารถเข้าสู่เวิร์กโฟลว์ใน SageMaker Studio ได้โดยตรง โดยโมเดลที่เลือกจะถูกโหลดไว้ล่วงหน้า พร้อมสภาพแวดล้อมที่ตั้งค่าเสร็จสรรพพร้อมใช้งานทันที
ในอดีต การเริ่มต้นใช้งาน SageMaker Studio หลังจากพบโมเดลบน Hugging Face มีความซับซ้อนหลายขั้นตอน ตั้งแต่การเปิด Amazon SageMaker AI ใน AWS Console, การสร้าง domain, การตั้งค่าสิทธิ์ IAM ไปจนถึงการขอโควตา GPU ซึ่งความยุ่งยากเหล่านี้มักทำให้การพัฒนางานล่าช้า การรวมระบบครั้งนี้จึงเป็นการสร้างเส้นทางที่รวดเร็วและตรงไปตรงมามากขึ้นสำหรับการติดตั้งใช้งานในระดับองค์กร
“ที่ Arcee เราสร้างโมเดลแบบเปิดเพื่อให้องค์กรเป็นเจ้าของสิ่งที่ใช้งานได้อย่างแท้จริง ทั้งการตรวจสอบ weights, การทำ post-train บนข้อมูลตนเอง และการติดตั้งตามเงื่อนไขที่ต้องการ การรวมระบบนี้ช่วยเติมเต็มกระบวนการดังกล่าวให้สมบูรณ์ การเปลี่ยนจากโมเดลบน Hugging Face เข้าสู่ SageMaker Studio ในคลิกเดียวเพื่อ fine-tune หรือติดตั้งในระบบ AWS ของตนเองโดยไม่ต้องตั้งค่าเอง คือประสบการณ์ที่โมเดลแบบเปิดต้องการ Open weights ที่คุณเป็นเจ้าของ รันบนคลาวด์ที่คุณควบคุม คือสิ่งที่ลูกค้าเราต้องการอย่างแท้จริง”
— Mark McQuade, ผู้ก่อตั้งและ CEO, Arcee AI
ด้วยประสบการณ์ใหม่นี้ เพียงเลือก Customize on SageMaker AI หรือ Deploy on SageMaker AI บนหน้าโมเดลที่รองรับใน Hugging Face ระบบจะนำคุณไปยังคอนโซลทันที โดย SageMaker AI จะจัดเตรียม domain พร้อมสิทธิ์การใช้งานที่จำเป็นให้อัตโนมัติภายในไม่กี่วินาที พร้อมส่งต่อข้อมูลโมเดลไปให้พร้อมกัน
มีอะไรใหม่
การอัปเดตครั้งนี้มาพร้อม 3 ความสามารถหลักที่ช่วยเชื่อมต่อโมเดลจาก Hugging Face สู่เวิร์กโฟลว์ของ SageMaker Studio:
Deep links จาก Hugging Face เข้าสู่ SageMaker Studio
เมื่อคุณดูโมเดลบน Hugging Face จะพบปุ่มคำสั่งใหม่บนโมเดลที่รองรับ ซึ่งจะเชื่อมไปยัง SageMaker Studio โดยตรง:
- Customize on SageMaker AI: เปิดหน้า Model Customization ใน Studio พร้อมโหลดโมเดลที่เลือกไว้เพื่อเริ่ม fine-tune ได้ทันที
- Deploy on SageMaker AI: เปิดหน้า Deployment ใน Studio พร้อมตั้งค่าโมเดลล่วงหน้าสำหรับการติดตั้งใช้งาน endpoint โดยทั้งสองช่องทางจะจดจำข้อมูลโมเดลไว้ ทำให้คุณไม่จำเป็นต้องค้นหาโมเดลซ้ำอีกครั้งเมื่อเข้าสู่ Studio
การกำหนดสิทธิ์ล่วงหน้า (Pre-configured permissions)
สภาพแวดล้อม Studio ที่สร้างผ่านช่องทางนี้จะได้รับการตั้งค่าสิทธิ์สำหรับฟีเจอร์ต่างๆ ของ SageMaker AI มาให้พร้อมใช้งาน ไม่ว่าจะเป็นการปรับแต่งโมเดล, งานเทรน (training jobs), การทดลองใน notebook หรือการติดตั้ง endpoint โดยนโยบายโฉมใหม่ AmazonSageMakerModelCustomizationCoreAccess จะถูกแนบให้โดยอัตโนมัติ เพื่อให้สิทธิ์ในการปรับแต่งโมเดลแบบ serverless ทั้ง supervised fine-tuning (SFT), direct preference optimization (DPO), reinforcement learning with verifiable rewards (RLVR) และ reinforcement learning from AI feedback (RLAIF) พร้อมรองรับการใช้งานผ่าน SageMaker AI หรือ Amazon Bedrock endpoints ช่วยลดขั้นตอนการตั้งค่า IAM ด้วยตนเอง สำหรับผู้ที่มีสภาพแวดล้อม Studio เดิมอยู่แล้ว จะมีข้อความแนะนำพร้อมลิงก์เพื่อช่วยเพิ่มสิทธิ์เหล่านี้ได้ง่ายขึ้น
การแสดงโควตา GPU
ในการเลือกอินสแตนซ์สำหรับติดตั้งหรือเทรนโมเดล UI ของ Studio จะแสดงจำนวนโควตาที่ใช้งานได้จริงในรายการเลือกอินสแตนซ์ทันที ทำให้ทราบได้ว่า GPU ประเภทใด (เช่น G5, G6) ที่พร้อมใช้งานภายใต้ขีดจำกัดของบัญชีโดยไม่ต้องเปิดหน้า Service Quotas แยกต่างหาก แต่หากต้องการขอเพิ่มขีดจำกัด ก็สามารถกดลิงก์จากหน้านี้เพื่อไปยังคำขอของอินสแตนซ์นั้นๆ ได้โดยตรง
ขั้นตอนการทำงาน: Deep-linking จาก Hugging Face ไปยัง SageMaker Studio
กระบวนการปรับแต่งหรือติดตั้งโมเดลเริ่มจาก Hugging Face มีขั้นตอนดังนี้:
ขั้นตอนที่ 1: ค้นพบและเลือก
ที่หน้าโมเดลบน Hugging Face คลิก “Deploy” และเลือก “Amazon SageMaker AI” หากรองรับ คุณจะเห็นปุ่ม “Deploy on SageMaker AI” หรือ “Customize on SageMaker AI” ให้คุณเลือกตามความต้องการ
ขั้นตอนที่ 2: ลงชื่อเข้าใช้
ระบบจะให้คุณลงชื่อเข้าใช้ AWS ด้วยข้อมูลเดิม หากคุณลงชื่อเข้าใช้งานในเบราว์เซอร์อยู่แล้ว ขั้นตอนนี้จะถูกข้ามไปโดยอัตโนมัติ ศึกษาเพิ่มเติมได้ที่ Sign in to the AWS Management Console
ขั้นตอนที่ 3: เข้าสู่ Studio
คุณจะเข้าสู่หน้า Model Customization ใน SageMaker Studio พร้อมโมเดลที่เลือกไว้ จากนั้นจึงตั้งค่าพารามิเตอร์ต่างๆ เช่น ข้อมูลเทรน, hyperparameters และประเภทอินสแตนซ์ ก่อนส่งงานปรับแต่ง
ในกรณีเลือก Deploy on SageMaker AI ระบบจะเปิดหน้าติดตั้งใช้งาน endpoint พร้อมการตั้งค่าล่วงหน้า ให้คุณเลือกประเภทอินสแตนซ์ ตรวจสอบโควตา และเริ่มติดตั้งได้ทันที
ขั้นตอนที่ 4: ทดสอบ endpoint ของคุณ
หลังติดตั้งเสร็จ คุณสามารถทดสอบการทำส่วนอ้างอิง (inference) ได้โดยตรงผ่าน testing interface ของ Studio
การเริ่มต้นใช้งาน
คุณสามารถลองใช้งานได้ทันที:
- ค้นหาโมเดลที่ต้องการบน Hugging Face
- มองหาปุ่ม Customize on SageMaker AI หรือ Deploy on SageMaker AI
- เลือกและลงชื่อเข้าใช้งานตามขั้นตอน
- เริ่มสร้างโปรเจกต์ใน SageMaker Studio ที่ตั้งค่าไว้พร้อมใช้งาน
บทสรุป
การเชื่อมต่อ SageMaker Studio ในคลิกเดียวช่วยลดช่องว่างระหว่างการค้นพบโมเดลและการนำไปใช้งานจริง ด้วยการผสานเวิร์กโฟลว์ของ Hugging Face เข้ากับ SageMaker Studio โดยตรง นักพัฒนาสามารถทำงานได้อย่างลื่นไหลโดยไม่ต้องสลับหน้าจอหรือตั้งค่าระบบที่ซับซ้อนด้วยตนเอง
เริ่มต้นใช้งานได้ที่หน้า Amazon SageMaker Studio หรือสำรวจโมเดลบน Hugging Face เพื่อทดลองใช้ฟีเจอร์ใหม่นี้
ความคิดเห็น (0)
เข้าสู่ระบบเพื่อร่วมแสดงความเห็น
สมัครสมาชิกมาเป็นคนแรกที่แสดงความเห็นกันเลยโบร