H100 SXM vs MI300X: specifiche, prezzo e quale noleggiare
GPU Rent Hub noleggia entrambe le schede come bare metal dedicato in tre datacenter negli Stati Uniti, pagabili in Bitcoin, Ethereum, USDT, USDC, Monero, Solana o Litecoin senza verifica dell'identità. La H100 SXM costa $1,690 al mese e la MI300X costa $1,590 al mese. Tutto quanto segue è misurato, non opinabile.
Qual è la differenza tra la H100 SXM e la MI300X?
Ogni dato è quello su cui basiamo il noleggio, tratto dallo stesso catalogo da cui la dashboard ricava i prezzi. Il prezzo per GPU/ora è il prezzo mensile forfettario diviso per 720 ore; non vieni mai fatturato a ore.
| H100 SXM | MI300X | |
|---|---|---|
| Memoria | 80 GB HBM3 | 192 GB HBM3 |
| Larghezza di banda della memoria | 3.35 TB/s | 5.3 TB/s |
| Architettura | Hopper (2022) | CDNA 3 (2023) |
| Core | 16,896 CUDA · 528 Tensor | 304 compute units · 19,456 stream processors |
| FP8 | 3,958 TFLOPS (sparse) | 2,615 TFLOPS |
| FP16 | 1,979 TFLOPS (sparse) | 1,307 TFLOPS |
| Interconnessione | NVLink · 900 GB/s | Infinity Fabric · 896 GB/s |
| Potenza scheda | 700 W | 750 W |
| vCPU host | 20 | 24 |
| RAM host | 251 GB | 283 GB |
| NVMe locale | 2 TB | 2 TB |
| Prezzo settimanale | $475 | $450 |
| Prezzo mensile | $1,690 | $1,590 |
| Per GPU-ora | $2.35 | $2.21 |
| Prezzo per GB di VRAM | $21.12 | $8.28 |
| Disponibile ora | 63 | 8 |
Quale dovresti noleggiare?
La MI300X, più economica, ha 112 GB di memoria in più, quindi per la sola capacità è la scheda migliore. La larghezza di banda è 3.35 TB/s contro 5.3 TB/s, e per la generazione di token a flusso singolo è la larghezza di banda a determinare la velocità, non la cifra FLOPS sulla scheda tecnica. Solo la H100 SXM dispone di NVLink, quindi l'addestramento multi-scheda scala su di essa e fatica sulla MI300X. La H100 SXM costa il 6% in più al mese, $1,690 contro $1,590, ovvero $2.35 contro $2.21 per GPU-ora.
Noleggia la H100 SXM quando
Multi-week training and fine-tuning runs. A 70B model in FP8 fits on one card; in BF16 it needs two.
$1,690/mese · $475/sett. · specifiche e disponibilità
Noleggia la MI300X quando
Serving very large models on the fewest cards. The most HBM per card we rent: a 70B model in BF16 fits with 50 GB to spare.
$1,590/mese · $450/sett. · specifiche e disponibilità
Dove ciascuna scheda è disponibile
Un trattino indica che la scheda è in lista d'attesa in quella regione. Il prezzo è identico in tutti e tre, quindi scegli in base a latenza e disponibilità, nient'altro.
| Regione | H100 SXM | MI300X |
|---|---|---|
| DFW-1Dallas, TX | 32 | 8 |
| IAD-1Ashburn, VA | 19 | — |
| PDX-1Hillsboro, OR | 12 | — |
H100 SXM contro MI300X
La H100 SXM è migliore della MI300X?
Qual è la differenza di prezzo tra la H100 SXM e la MI300X?
Quanta VRAM ha la H100 SXM rispetto alla MI300X?
Posso noleggiare una delle due schede senza KYC?
Qual è disponibile oggi?
Posso mettere diverse schede H100 SXM in una macchina?
Noleggia uno dei due a settimana o a mese
Nessun controllo d'identità, nessun indirizzo email, nessuna carta. Configura la macchina, paga l'ordine che produce in una qualsiasi delle sette criptovalute, ed è operativa in circa novanta secondi.