Microsoft เปิดตัว Mu โมเดลภาษาขนาดเล็กประสิทธิภาพสูง ทำงานบนอุปกรณ์โดยตรง รองรับฟีเจอร์ผู้ช่วยใน Windows Settings
Microsoft เปิดตัว “Mu” โมเดลภาษาขนาดเล็กที่ออกแบบมาเพื่อรันบนอุปกรณ์โดยตรง (on-device) โดยเฉพาะบนชิป NPU ในเครื่อง Copilot+ PCs จุดเด่น คือสามารถเข้าใจคำสั่งภาษาธรรมชาติและเปลี่ยนเป็นการตั้งค่าระบบ Windows ได้ทันที ปัจจุบันเปิดให้ Windows Insider กลุ่ม Dev Channel ทดสอบแล้วในฟีเจอร์ผู้ช่วยภายใน Settings
Mu พัฒนาขึ้นจากสถาปัตยกรรมแบบ encoder-decoder ซึ่งประหยัดหน่วยความจำและทำงานเร็วกว่าโมเดล decoder-only ทั่วไปถึง 4.7 เท่า ทั้งยังใช้เทคนิคเช่น weight sharing, rotary positional embeddings และ grouped-query attention เพื่อรีดประสิทธิภาพสูงสุดแม้จะมีขนาดเพียง 330 ล้านพารามิเตอร์
ทีมงานยังใช้เทคนิค fine-tuning ขั้นสูง เช่น LoRA, synthetic labeling และ prompt tuning เพื่อปรับให้ Mu เข้าใจคำสั่งผู้ใช้และเรียกใช้งานฟังก์ชันการตั้งค่าต่าง ๆ ได้อย่างแม่นยำและรวดเร็ว โดยรองรับการสั่งการหลายร้อยประเภท ครอบคลุมตั้งแต่การปรับความสว่าง ไปจนถึงการตั้งค่าความเป็นส่วนตัว
แม้โมเดลจะมีขนาดเล็กเพียงหนึ่งในสิบของ Phi mini แต่ Mu สามารถประมวลผลได้กว่า 100 โทเคนต่อวินาที และตอบสนองคำสั่งได้ภายใน 500 มิลลิวินาที เหมาะกับงานแบบเรียลไทม์บนอุปกรณ์ Edge ในอนาคต Microsoft ตั้งเป้าจะขยายการใช้งานโมเดลนี้ในหลายฟีเจอร์บน Windows และอุปกรณ์อื่น ๆ ที่รองรับ NPU
อ้างอิงจาก : Blogs windows
