H200 SXM와 MI300X의 차이점은 무엇인가요?
모든 수치는 대시보드가 가격을 매기는 동일한 카탈로그에서 가져온, 실제 대여 기준 값입니다. GPU당 시간 요금은 월 정액 요금을 720시간으로 나눈 값이며, 시간 단위로 청구되지 않습니다.
| H200 SXM | MI300X | |
|---|---|---|
| 메모리 | 141 GB HBM3e | 192 GB HBM3 |
| 메모리 대역폭 | 4.8 TB/s | 5.3 TB/s |
| 아키텍처 | Hopper (2024) | CDNA 3 (2023) |
| 코어 | 16,896 CUDA · 528 Tensor | 304 compute units · 19,456 stream processors |
| FP8 | 3,958 TFLOPS (sparse) | 2,615 TFLOPS |
| FP16 | 1,979 TFLOPS (sparse) | 1,307 TFLOPS |
| 인터커넥트 | NVLink · 900 GB/s | Infinity Fabric · 896 GB/s |
| 보드 전력 | 700 W | 750 W |
| 호스트 vCPU | 24 | 24 |
| 호스트 RAM | 251 GB | 283 GB |
| 로컬 NVMe | 2 TB | 2 TB |
| 주간 요금 | $640 | $450 |
| 월간 요금 | $2,290 | $1,590 |
| GPU 시간당 | $3.18 | $2.21 |
| VRAM GB당 가격 | $16.24 | $8.28 |
| 현재 재고 있음 | 19 | 8 |
어떤 제품을 대여해야 할까요?
더 저렴한 MI300X은(는) 51 GB 더 많은 메모리를 탑재하여, 용량만 고려하면 더 나은 카드입니다. 대역폭은 4.8 TB/s 대 5.3 TB/s이며, 단일 스트림 토큰 생성에서는 속도를 결정하는 것은 스펙 시트의 FLOPS 수치가 아니라 대역폭입니다. NVLink는 H200 SXM에만 있어 다중 카드 학습은 이 카드에서는 확장되고 MI300X에서는 어렵습니다. H200 SXM는 월 기준으로 44% 더 비싸며, $2,290 대 $1,590, GPU 시간당 $3.18 대 $2.21입니다.
이럴 때 H200 SXM 대여
Serving 70B–120B models without sharding. A 70B model in BF16 fits on two cards with room for a batch; in FP8 it fits on one.
$2,290/월 · $640/주 · 사양 및 재고
이럴 때 MI300X 대여
Serving very large models on the fewest cards. The most HBM per card we rent: a 70B model in BF16 fits with 50 GB to spare.
$1,590/월 · $450/주 · 사양 및 재고
각 카드의 재고 위치
대시(-)는 해당 지역에서 카드가 대기 목록에 있음을 의미합니다. 가격은 세 곳 모두 동일하므로 지연 시간과 재고만 보고 선택하세요.
| 지역 | H200 SXM | MI300X |
|---|---|---|
| DFW-1Dallas, TX | 11 | 8 |
| IAD-1Ashburn, VA | 8 | — |
| PDX-1Hillsboro, OR | — | — |
H200 SXM 대 MI300X
H200 SXM가 MI300X보다 더 좋은가요?
H200 SXM와 MI300X의 가격 차이는 얼마인가요?
H200 SXM의 VRAM은 MI300X에 비해 얼마나 됩니까?
KYC 없이 두 카드 중 하나를 대여할 수 있나요?
오늘 어떤 카드가 이용 가능한가요?
여러 개의 H200 SXM 카드를 한 머신에 넣을 수 있나요?
둘 중 하나를 주 또는 월 단위로 대여
신원 확인도, 이메일 주소도, 카드도 필요 없습니다. 머신을 구성하고 생성된 하나의 주문을 7가지 코인 중 하나로 결제하면 약 90초 안에 실행됩니다.