Anthropic ทุ่ม 5 ล้านดอลลาร์ มอบทุนวิจัยอิสระเพื่อประเมินผลกระทบ AI ต่อสุขภาวะและคุณภาพชีวิต

Anthropic ประกาศเปิดตัวโครงการมอบทุนมูลค่า 5 ล้านดอลลาร์ เพื่อสนับสนุนงานวิจัยอิสระที่มุ่งเน้นผลกระทบของ AI ต่อสุขภาวะและคุณภาพชีวิตที่ดี (Wellbeing) ของผู้ใช้ โดยโครงการนี้จะสนับสนุนทั้งในรูปแบบเงินทุนโดยตรง การเข้าถึงโมเดลของบริษัท และการช่วยเหลือทางเทคนิคแก่ผู้ที่พัฒนาชุดประเมินผลแบบ Open-source เพื่อให้อุตสาหกรรม AI มีเครื่องมือวัดผลที่เป็นมาตรฐานว่าโมเดลส่งผลต่อผู้ใช้งานอย่างไร โดยผู้ได้รับทุนจะมีอิสระในการทำงานเต็มที่และเผยแพร่ผลงานให้นักพัฒนาทั่วโลกนำไปใช้ได้

ในปัจจุบัน ระบบ AI ได้กลายเป็นเครื่องมือสำคัญในการทำงาน การเรียนรู้ และการแก้ปัญหา รวมถึงยังทำหน้าที่เป็นคู่สนทนาและ แหล่งสนับสนุนทางอารมณ์ ในช่วงเวลาที่ยากลำบาก อย่างไรก็ตาม อุตสาหกรรมเทคโนโลยียังคงขาดมาตรฐานที่ชัดเจนว่าโมเดลควรมีปฏิกิริยาอย่างไรในการสนทนาที่เปราะบาง เช่น เมื่อผู้ใช้เริ่มมองว่า AI เป็นเพื่อน หรือใช้ AI เพื่อรับมือกับวิกฤตสุขภาพจิต

หัวข้อเรื่องสุขภาวะนั้นประเมินได้ยากเป็นพิเศษ เพราะต่างจากการตัดสินความถูกต้องของคำตอบทั่วไปที่ดูเพียงครั้งเดียวก็รู้ผล แต่การประเมินด้านสุขภาวะจำเป็นต้องอาศัยบริบทที่กว้างกว่านั้น ตัวอย่างเช่น ผู้ใช้ที่กำลังทุกข์ใจอาจไม่แสดงสัญญาณการทำร้ายตัวเองในทันที แต่อาจค่อยๆ ปรากฏให้เห็นผ่านการสนทนาที่ยาวนาน ซึ่งคำตอบที่ดูเหมือนหวังดีในบริบทหนึ่งอาจกลายเป็นอันตรายในอีกบริบทหนึ่งได้ เช่น การที่ Claude ให้คำแนะนำเรื่องการควบคุมอาหารแก่ผู้ใช้ที่มีประวัติความผิดปกติในการกิน (Eating Disorder) ซึ่งอาจส่งผลเสียต่อสุขภาพผู้ใช้โดยตรง

ที่ผ่านมา Anthropic ได้พยายาม พัฒนามาตรการป้องกัน เพื่อตรวจจับการสนทนาที่ละเอียดอ่อนและช่วยให้ Claude ตอบสนองได้อย่างเหมาะสม นอกจากนี้ยังมีการ เผยแพร่งานวิจัย เกี่ยวกับรูปแบบการสนทนาของผู้ใช้ เพื่อนำข้อมูลมาพัฒนาระบบป้องกันและวิธีประเมินผลให้ดียิ่งขึ้น อย่างไรก็ตาม เนื่องจากเรื่องนี้มีความเสี่ยงสูงและละเอียดอ่อน แนวทางการดูแลจึงต้องวิวัฒนาการไปพร้อมกับการเติบโตของโมเดลและการใช้งานจริง

ด้วยการสนับสนุนทุนวิจัยเพื่อสร้างเกณฑ์มาตรฐาน (Benchmarks) ด้านสุขภาวะที่เป็นอิสระในครั้งนี้ เราหวังว่าจะดึงดูดผู้เชี่ยวชาญจากหลากหลายสาขา ทั้งนักคลินิก นักจิตวิทยา และนักวิจัยด้านระเบียบวิธี ให้เข้ามาร่วมพัฒนาองค์ความรู้ในสาขาใหม่ที่มีความสำคัญอย่างยิ่งต่ออนาคตของ AI

สู่การประเมินผลและเกณฑ์มาตรฐานด้าน wellbeing ที่มีประสิทธิภาพมากขึ้น

ในโครงการนี้ Anthropic ได้ แบ่งปันคำแนะนำ จากทีม Safeguards ของบริษัท เกี่ยวกับคุณสมบัติของชุดประเมินสุขภาวะที่มีความเข้มงวดและนำไปใช้งานได้จริง พร้อมระบุถึงความท้าทายที่อาจเกิดขึ้น โดยสรุป โครงการนี้กำลังมองหาชุดประเมินที่:

• ระบุตัวชี้วัดที่ชัดเจน (เช่น สิ่งใดคือการสอบผ่านหรือสอบตก และความสำคัญของเกณฑ์นั้น)
• ดึงผู้เชี่ยวชาญด้านคลินิกและผู้เชี่ยวชาญเฉพาะทางมาร่วมออกแบบและตรวจสอบความถูกต้อง
• ทดสอบทั้งในแง่ของข้อควรระวังและอันตราย (ประเมินความเสี่ยงทั้งการตอบรับตามใจเกินไปและการปฏิเสธช่วยเหลือมากเกินไป)
• สะท้อนพฤติกรรมการใช้งานจริง (การจำลองสถานการณ์สนทนาหลายโต้ตอบที่ความเสี่ยงอาจเพิ่มขึ้นตามระยะเวลาสนทนา)
• มีกระบวนการตรวจสอบความถูกต้องของผู้ประเมิน (Graders) เทียบกับผู้เชี่ยวชาญตัวจริง

สำหรับผู้ที่สนใจศึกษาข้อมูลเพิ่มเติมหรือต้องการสมัครเข้าร่วมโครงการ สามารถดูได้ที่แบบฟอร์มใบสมัคร และอ่านรายละเอียดการสร้างเกณฑ์มาตรฐานได้ใน คำแนะนำฉบับเต็ม โดยมีกำหนดส่งใบสมัครภายในวันที่ 21 กันยายน และผู้ที่ผ่านเข้ารอบจะได้รับการติดต่อภายในวันที่ 5 ตุลาคมนี้

เนื้อหาที่เกี่ยวข้อง

วิธีการทำงานของลายน้ำข้อความของ Claude

ในบทความนี้ เราจะแชร์คำตอบสำหรับคำถามบางประการที่เราได้รับเกี่ยวกับวิธีการทำงานของวิธีใส่ลายน้ำที่เราเลือก ลายน้ำนี้ส่งผลต่อผลลัพธ์ของ Claude หรือไม่ และเหตุใดเราจึงทำการเปลี่ยนแปลงนี้

อ่านเพิ่มเติม

การปรับปรุงมาตรการป้องกันด้านชีววิทยาของ Fable 5

เรากำลังทำการอัปเดตมาตรการป้องกันด้านชีววิทยาของ Claude Fable 5 ในลักษณะที่ช่วยลดผลบวกปลอม (false positives) ได้อย่างมาก ผู้ใช้ Fable 5 จะพบกับ "การสลับกลับ" (fallbacks) น้อยลงมาก ซึ่งเป็นกรณีที่ระบบสลับไปใช้ model ที่มีความสามารถน้อยกว่าหลังจากที่ผู้ใช้ส่งคำถามเกี่ยวกับชีววิทยา

อ่านเพิ่มเติม

Mariano-Florentino (Tino) Cuéllar เข้าร่วมงานกับ Anthropic ในตำแหน่ง Chief Global Affairs Officer

Mariano-Florentino (Tino) Cuéllar จะเข้าร่วมงานกับ Anthropic ในตำแหน่ง Chief Global Affairs Officer คนแรก

อ่านเพิ่มเติม