H100 SXM vs MI300X: specificaties, prijs en welke te huren
GPU Rent Hub verhuurt beide kaarten als dedicated bare metal in drie datacenters in de Verenigde Staten, betaald in Bitcoin, Ethereum, USDT, USDC, Monero, Solana of Litecoin zonder identiteitsverificatie. De H100 SXM is $1,690 per maand en de MI300X is $1,590 per maand. Alles hieronder is gemeten, niet bediscussieerd.
Wat is het verschil tussen de H100 SXM en de MI300X?
Elk cijfer is het cijfer dat wij hanteren bij verhuur, afkomstig uit dezelfde catalogus waar het dashboard de prijzen uit haalt. Per GPU-uur is het vaste maandbedrag gedeeld door 720 uur; je wordt nooit per uur gefactureerd.
| H100 SXM | MI300X | |
|---|---|---|
| Geheugen | 80 GB HBM3 | 192 GB HBM3 |
| Geheugenbandbreedte | 3.35 TB/s | 5.3 TB/s |
| Architectuur | Hopper (2022) | CDNA 3 (2023) |
| Cores | 16,896 CUDA · 528 Tensor | 304 compute units · 19,456 stream processors |
| FP8 | 3,958 TFLOPS (sparse) | 2,615 TFLOPS |
| FP16 | 1,979 TFLOPS (sparse) | 1,307 TFLOPS |
| Interconnectie | NVLink · 900 GB/s | Infinity Fabric · 896 GB/s |
| Bordvermogen | 700 W | 750 W |
| Host-vCPU | 20 | 24 |
| Host-RAM | 251 GB | 283 GB |
| Lokale NVMe | 2 TB | 2 TB |
| Weekprijs | $475 | $450 |
| Maandprijs | $1,690 | $1,590 |
| Per GPU-uur | $2.35 | $2.21 |
| Prijs per GB VRAM | $21.12 | $8.28 |
| Nu op voorraad | 63 | 8 |
Welke moet je huren?
De goedkopere MI300X heeft 112 GB meer geheugen, dus alleen op capaciteit is het de betere kaart. Bandbreedte is 3.35 TB/s tegenover 5.3 TB/s, en bij het genereren van tokens in één stream is het de bandbreedte die de snelheid bepaalt, niet het FLOPS-getal op het specificatieblad. Alleen de H100 SXM heeft NVLink, dus trainen over meerdere kaarten schaalt daarop en verloopt moeizaam op de MI300X. De H100 SXM kost 6% meer per maand, $1,690 tegenover $1,590, of $2.35 tegenover $2.21 per GPU-uur.
Wanneer de H100 SXM huren
Multi-week training and fine-tuning runs. A 70B model in FP8 fits on one card; in BF16 it needs two.
$1,690/mo · $475/wk · specificaties en voorraad
Wanneer de MI300X huren
Serving very large models on the fewest cards. The most HBM per card we rent: a 70B model in BF16 fits with 50 GB to spare.
$1,590/mo · $450/wk · specificaties en voorraad
Waar elke kaart op voorraad is
Een streepje betekent dat de kaart in die regio op de wachtlijst staat. De prijs is in alle drie gelijk, dus kies op basis van latentie en voorraad, niets anders.
| Regio | H100 SXM | MI300X |
|---|---|---|
| DFW-1Dallas, TX | 32 | 8 |
| IAD-1Ashburn, VA | 19 | — |
| PDX-1Hillsboro, OR | 12 | — |
H100 SXM tegenover MI300X
Is de H100 SXM beter dan de MI300X?
Wat is het prijsverschil tussen de H100 SXM en de MI300X?
Hoeveel VRAM heeft de H100 SXM vergeleken met de MI300X?
Kan ik een van beide kaarten huren zonder KYC?
Welke is vandaag beschikbaar?
Kan ik meerdere H100 SXM kaarten in één machine plaatsen?
Huur een van beide per week of per maand
Geen identiteitscontrole, geen e-mailadres, geen kaart. Configureer de machine, betaal de ene bestelling die deze oplevert in een van zeven munten, en de machine draait binnen ongeveer negentig seconden.