H100 SXM vs MI300X: parametry, cena i którą wynająć
GPU Rent Hub wynajmuje obie karty jako dedykowany bare metal w trzech centrach danych w Stanach Zjednoczonych, płatność w Bitcoin, Ethereum, USDT, USDC, Monero, Solana lub Litecoin bez weryfikacji tożsamości. Karta H100 SXM kosztuje $1,690 miesięcznie, a karta MI300X kosztuje $1,590 miesięcznie. Wszystko poniżej jest zmierzone, a nie dyskutowane.
Jaka jest różnica między H100 SXM a MI300X?
Każda wartość to ta, według której wynajmujemy, wzięta z tego samego katalogu, z którego ceny pobiera panel. Stawka za godzinę GPU to stała cena miesięczna podzielona przez 720 godzin; nigdy nie rozliczamy za godzinę.
| H100 SXM | MI300X | |
|---|---|---|
| Pamięć | 80 GB HBM3 | 192 GB HBM3 |
| Przepustowość pamięci | 3.35 TB/s | 5.3 TB/s |
| Architektura | Hopper (2022) | CDNA 3 (2023) |
| Rdzenie | 16,896 CUDA · 528 Tensor | 304 compute units · 19,456 stream processors |
| FP8 | 3,958 TFLOPS (sparse) | 2,615 TFLOPS |
| FP16 | 1,979 TFLOPS (sparse) | 1,307 TFLOPS |
| Interkonekt | NVLink · 900 GB/s | Infinity Fabric · 896 GB/s |
| Pobór mocy karty | 700 W | 750 W |
| vCPU hosta | 20 | 24 |
| Pamięć RAM hosta | 251 GB | 283 GB |
| Lokalny NVMe | 2 TB | 2 TB |
| Cena tygodniowa | $475 | $450 |
| Cena miesięczna | $1,690 | $1,590 |
| Za GPU-godzinę | $2.35 | $2.21 |
| Cena za GB VRAM | $21.12 | $8.28 |
| Dostępne teraz | 63 | 8 |
Którą warto wynająć?
Tańszy MI300X ma o 112 GB więcej pamięci, więc pod względem samej pojemności jest lepszą kartą. Przepustowość to 3.35 TB/s w porównaniu do 5.3 TB/s, a przy generowaniu tokenów jednym strumieniem to przepustowość wyznacza prędkość, a nie wartość FLOPS z arkusza specyfikacji. Tylko H100 SXM ma NVLink, więc trening wielokartowy skaluje się na niej, a na MI300X napotyka problemy. H100 SXM kosztuje 6% więcej miesięcznie, $1,690 wobec $1,590, lub $2.35 wobec $2.21 za GPU-godzinę.
Kiedy wynająć H100 SXM
Multi-week training and fine-tuning runs. A 70B model in FP8 fits on one card; in BF16 it needs two.
$1,690/mies. · $475/tydz. · specyfikacja i dostępność
Kiedy wynająć MI300X
Serving very large models on the fewest cards. The most HBM per card we rent: a 70B model in BF16 fits with 50 GB to spare.
$1,590/mies. · $450/tydz. · specyfikacja i dostępność
Gdzie każda karta jest na stanie
Myślnik oznacza, że karta znajduje się na liście oczekujących w tym regionie. Cena jest identyczna we wszystkich trzech, więc wybierz na podstawie opóźnienia i dostępności, nic więcej.
| Region | H100 SXM | MI300X |
|---|---|---|
| DFW-1Dallas, TX | 32 | 8 |
| IAD-1Ashburn, VA | 19 | — |
| PDX-1Hillsboro, OR | 12 | — |
H100 SXM kontra MI300X
Czy H100 SXM jest lepszy niż MI300X?
Jaka jest różnica w cenie między H100 SXM a MI300X?
Ile pamięci VRAM ma H100 SXM w porównaniu z MI300X?
Czy mogę wynająć dowolną z tych kart bez KYC?
Która z nich jest dziś dostępna?
Czy mogę umieścić kilka kart H100 SXM w jednej maszynie?
Wynajmij dowolną z nich na tydzień lub miesiąc
Bez weryfikacji tożsamości, bez adresu e-mail, bez karty. Skonfiguruj maszynę, opłać wygenerowane zamówienie w dowolnej z siedmiu monet, a zaczyna działać po około dziewięćdziesięciu sekundach.