Skip to content
AI Hardware Thailand

ข่าวเผยแพร่โดย AI Hardware Thailand

NVIDIA เผยทางเลือกแบ่ง GPU

ประเด็นสำคัญ

การแบ่ง GPU ช่วยวางหลายงานบนทรัพยากรเดิมได้เมื่อมีพื้นที่พอ แต่ไม่ได้สร้าง VRAM เพิ่ม ผู้ซื้อควรรวม weights cache context และแอปประกอบก่อนเปรียบเทียบการ์ดเพิ่มกับหน่วยความจำที่มากขึ้น

ข่าววันที่
ตรวจทานล่าสุด
เวลาอ่าน
ประมาณ 2 นาที
คอมพิวเตอร์ MSI สีดำขนาดเล็กวางข้างสวิตช์เครือข่าย
ภาพประกอบจากคลังภาพ Mimir ไม่ใช่ภาพผลิตภัณฑ์หรือผลทดสอบในข่าวภาพ: Mimir / aiserverthailand.comแหล่งที่มาของภาพ

ให้นับพื้นที่ที่งานต้องอยู่พร้อมกันก่อนนับจำนวน GPU เสมือน การแบ่งการ์ดเป็นหลายส่วนช่วยจัดการการใช้ทรัพยากร แต่ไม่ได้เปลี่ยนความจุทางกายภาพของการ์ด

NVIDIA เผยทางเลือกด้านใด

คู่มือวันที่ 27 ตุลาคม 2026 ของ NVIDIA อธิบายการกำกับหน่วยความจำผ่าน CUDA 13.4, GPU Fractioning Operator และ KAI Scheduler โดยมีค่าขั้นต่ำและเพดานที่กำหนดได้ ประกาศ Run:ai ก่อนหน้าเป็นพื้นหลังระบบนิเวศ ไม่ใช่หลักฐานว่าการแบ่งทุกแบบเท่ากับการแยกด้วย MIG

จะเปรียบเทียบการซื้อแบบใด

ตารางนี้เป็นวิธีตั้งคำถามสำหรับผู้ซื้อ ไม่มีผลทดสอบหรือราคาที่ใช้ตัดสินแทน configuration จริง

ลักษณะความต้องการตรวจอะไรก่อนประเด็นของทางเลือกซื้อ
หลายโมเดลเล็กอยู่พร้อมกันweights และ cache รวมการ์ดเดิมมีพื้นที่และ compute เหลือหรือไม่
โมเดลเดียวเกินพื้นที่การ์ดการรองรับ model parallelการ์ดเพิ่มต้องมีเส้นทางกระจายงานที่ใช้ได้
ต้องเผื่อ context ยาวพื้นที่ cache ตามรูปแบบคำขอหน่วยความจำเพิ่มช่วยงานใดจริง
หลายทีมต้องมีงบขั้นต่ำrequest limit และการติดตามระบบแบ่งทรัพยากรทำตามข้อกำหนดได้หรือไม่
ต้องแยกผู้ใช้งานเข้มงวดขอบเขตที่นโยบายต้องการการ์ดแยก MIG และ sharing ต้องประเมินต่างกัน

จะหลีกเลี่ยงการนับความจุเกินจริงอย่างไร

ขอรายการโมเดล แอปประกอบ และจำนวนคำขอที่ต้องอยู่พร้อมกัน แล้วบันทึกพื้นที่สูงสุดที่วัดได้ อย่าคิดเฉพาะไฟล์ weights และอย่าคูณจำนวน fraction เพื่ออธิบายว่ามีหน่วยความจำรวมมากกว่าที่ติดตั้ง

หากระบบเสนอให้ burst ควรระบุว่าความสามารถนั้นขึ้นกับพื้นที่ว่าง เมื่อทุกงานโตพร้อมกันต้องยังมีพฤติกรรมที่เจ้าของงานยอมรับได้ การให้บริการผ่านเกณฑ์ในช่วงเงียบไม่แทนการทดสอบภาระสูง

ใช้ แนวทางเทียบ multi-GPU กับหน่วยความจำมาก จัดทางเลือกก่อนขอราคา วิดีโอที่แนบเป็นบริบท NVIDIA ไม่ใช่หลักฐานการแบ่งทรัพยากรของเครื่องที่เสนอ

คำถามที่พบบ่อย

GPU fractions รวมหน่วยความจำให้โมเดลใหญ่ขึ้นเองไหม
ไม่ควรสรุปเช่นนั้น การแบ่งเป็นการกำกับสิ่งที่มีอยู่ ส่วนการกระจายโมเดลข้ามอุปกรณ์เป็นอีกเงื่อนไขที่ต้องมี runtime รองรับ
แบ่งให้หลายทีมแล้วเท่ากับแยกฮาร์ดแวร์หรือไม่
ไม่เท่ากับการมีอุปกรณ์แยก ต้องตรวจขอบเขตหน่วยความจำ compute และความปลอดภัยที่ต้องการแต่ละส่วน

วิดีโอที่เกี่ยวข้อง

แหล่งข้อมูล

  1. NVIDIA: Memory-Enforced GPU Sharing

    NVIDIA

    เผยแพร่ต้นทาง
    เข้าถึงข้อมูล
  2. NVIDIA: Run:ai Open Source Platform

    NVIDIA

    เผยแพร่ต้นทาง
    เข้าถึงข้อมูล