본문 바로가기

MiG2

NVIDIA MIG vs AMD SR-IOV — 목적은 같아도 방식은 다르다 한 줄 요약NVIDIA: 한 장의 GPU를 칩 내부에서 하드하게 쪼개는 MIG(멀티-인스턴스 GPU) 중심. → 격리·QoS가 강점.AMD: 하나의 PCIe 장치를 여러 가상 함수(VF)로 나누는 SR-IOV 기반 vGPU 중심. → 가상머신에 직결하기 쉬움.그림으로 보기 (아주 단순화) [NVIDIA: MIG] GPU(칩) ├─ [인스턴스 A] ← 칩 내부 하드 파티션 ├─ [인스턴스 B] └─ [인스턴스 C] (각 인스턴스가 ‘작은 GPU’처럼 동작) [AMD: SR-IOV] PCIe 장치(GPU) ├─ PF(관리) ├─ VF1 → VM1에 직결 ├─ VF2 → VM2에 직결 └─ VF3 → VM3에 직결 (각 VM에 ‘작은 장치’처럼 보임) 언제 무엇이 더 직관적인가?NVIDIA(MI.. 2025. 11. 4.
NVIDIA MIG(멀티-인스턴스 GPU) — 개념만 쏙쏙 이해하기 MIG가 뭐죠?Introduction — NVIDIA Multi-Instance GPU User Guide MIG(Multi-Instance GPU)는 한 장의 데이터센터용 NVIDIA GPU를 여러 개의 ‘작은 GPU’로 하드웨어 수준에서 나눠 쓰는 기술이에요.각 인스턴스는 자기만의 연산 코어, 캐시, 메모리를 갖고 있어서 서로 간섭이 적고 성능이 예측 가능합니다.Multi-Instance GPU (MIG) | NVIDIA한 장의 A100/H100 등 → 최대 7개(모델별 상이)까지 독립 인스턴스로 분할 가능각 인스턴스는 고정된 자원 슬라이스를 보장(메모리/SM/캐시)목표: 다중 사용자/서비스를 안정적인 QoS로 동시에 돌리기 Multi-Instance GPU (MIG) | NVIDIA왜 필요한가?낭비.. 2025. 11. 4.