ข่าวเผยแพร่โดย AI Hardware Thailand
NVIDIA เผยทางเลือกแบ่ง GPU
ประเด็นสำคัญ
การแบ่ง GPU ช่วยวางหลายงานบนทรัพยากรเดิมได้เมื่อมีพื้นที่พอ แต่ไม่ได้สร้าง VRAM เพิ่ม ผู้ซื้อควรรวม weights cache context และแอปประกอบก่อนเปรียบเทียบการ์ดเพิ่มกับหน่วยความจำที่มากขึ้น
- ข่าววันที่
- ตรวจทานล่าสุด
- เวลาอ่าน
- ประมาณ 2 นาที

ให้นับพื้นที่ที่งานต้องอยู่พร้อมกันก่อนนับจำนวน GPU เสมือน การแบ่งการ์ดเป็นหลายส่วนช่วยจัดการการใช้ทรัพยากร แต่ไม่ได้เปลี่ยนความจุทางกายภาพของการ์ด
NVIDIA เผยทางเลือกด้านใด
คู่มือวันที่ 27 ตุลาคม 2026 ของ NVIDIA อธิบายการกำกับหน่วยความจำผ่าน CUDA 13.4, GPU Fractioning Operator และ KAI Scheduler โดยมีค่าขั้นต่ำและเพดานที่กำหนดได้ ประกาศ Run:ai ก่อนหน้าเป็นพื้นหลังระบบนิเวศ ไม่ใช่หลักฐานว่าการแบ่งทุกแบบเท่ากับการแยกด้วย MIG
จะเปรียบเทียบการซื้อแบบใด
ตารางนี้เป็นวิธีตั้งคำถามสำหรับผู้ซื้อ ไม่มีผลทดสอบหรือราคาที่ใช้ตัดสินแทน configuration จริง
| ลักษณะความต้องการ | ตรวจอะไรก่อน | ประเด็นของทางเลือกซื้อ |
|---|---|---|
| หลายโมเดลเล็กอยู่พร้อมกัน | weights และ cache รวม | การ์ดเดิมมีพื้นที่และ compute เหลือหรือไม่ |
| โมเดลเดียวเกินพื้นที่การ์ด | การรองรับ model parallel | การ์ดเพิ่มต้องมีเส้นทางกระจายงานที่ใช้ได้ |
| ต้องเผื่อ context ยาว | พื้นที่ cache ตามรูปแบบคำขอ | หน่วยความจำเพิ่มช่วยงานใดจริง |
| หลายทีมต้องมีงบขั้นต่ำ | request limit และการติดตาม | ระบบแบ่งทรัพยากรทำตามข้อกำหนดได้หรือไม่ |
| ต้องแยกผู้ใช้งานเข้มงวด | ขอบเขตที่นโยบายต้องการ | การ์ดแยก MIG และ sharing ต้องประเมินต่างกัน |
จะหลีกเลี่ยงการนับความจุเกินจริงอย่างไร
ขอรายการโมเดล แอปประกอบ และจำนวนคำขอที่ต้องอยู่พร้อมกัน แล้วบันทึกพื้นที่สูงสุดที่วัดได้ อย่าคิดเฉพาะไฟล์ weights และอย่าคูณจำนวน fraction เพื่ออธิบายว่ามีหน่วยความจำรวมมากกว่าที่ติดตั้ง
หากระบบเสนอให้ burst ควรระบุว่าความสามารถนั้นขึ้นกับพื้นที่ว่าง เมื่อทุกงานโตพร้อมกันต้องยังมีพฤติกรรมที่เจ้าของงานยอมรับได้ การให้บริการผ่านเกณฑ์ในช่วงเงียบไม่แทนการทดสอบภาระสูง
ใช้ แนวทางเทียบ multi-GPU กับหน่วยความจำมาก จัดทางเลือกก่อนขอราคา วิดีโอที่แนบเป็นบริบท NVIDIA ไม่ใช่หลักฐานการแบ่งทรัพยากรของเครื่องที่เสนอ
คำถามที่พบบ่อย
- GPU fractions รวมหน่วยความจำให้โมเดลใหญ่ขึ้นเองไหม
- ไม่ควรสรุปเช่นนั้น การแบ่งเป็นการกำกับสิ่งที่มีอยู่ ส่วนการกระจายโมเดลข้ามอุปกรณ์เป็นอีกเงื่อนไขที่ต้องมี runtime รองรับ
- แบ่งให้หลายทีมแล้วเท่ากับแยกฮาร์ดแวร์หรือไม่
- ไม่เท่ากับการมีอุปกรณ์แยก ต้องตรวจขอบเขตหน่วยความจำ compute และความปลอดภัยที่ต้องการแต่ละส่วน
วิดีโอที่เกี่ยวข้อง
NVIDIA GTC Berlin 2026 Keynote With CEO Jensen Huang
NVIDIA · เผยแพร่
วิดีโอประกอบความเข้าใจ
ดูวิดีโอต้นทางบน YouTube
แหล่งข้อมูล
- NVIDIA: Memory-Enforced GPU Sharing
NVIDIA
- เผยแพร่ต้นทาง
- เข้าถึงข้อมูล
- NVIDIA: Run:ai Open Source Platform
NVIDIA
- เผยแพร่ต้นทาง
- เข้าถึงข้อมูล