H100 SXM vs MI300X : spécifications, prix et lequel louer
GPU Rent Hub loue les deux cartes en tant que bare metal dédié dans trois datacenters aux États-Unis, payables en Bitcoin, Ethereum, USDT, USDC, Monero, Solana ou Litecoin sans vérification d'identité. La H100 SXM est 1 690 $US par mois et la MI300X est 1 590 $US par mois. Tout ce qui suit est mesuré, pas discuté.
Quelle est la différence entre la H100 SXM et la MI300X ?
Chaque chiffre est celui sur lequel nous nous basons pour la location, tiré du même catalogue que celui utilisé par le tableau de bord pour établir les prix. Le prix par GPU-heure est le prix mensuel fixe divisé par 720 heures ; vous n'êtes jamais facturé à l'heure.
| H100 SXM | MI300X | |
|---|---|---|
| Mémoire | 80 GB HBM3 | 192 GB HBM3 |
| Bande passante mémoire | 3.35 TB/s | 5.3 TB/s |
| Architecture | Hopper (2022) | CDNA 3 (2023) |
| Cœurs | 16,896 CUDA · 528 Tensor | 304 compute units · 19,456 stream processors |
| FP8 | 3,958 TFLOPS (sparse) | 2,615 TFLOPS |
| FP16 | 1,979 TFLOPS (sparse) | 1,307 TFLOPS |
| Interconnexion | NVLink · 900 GB/s | Infinity Fabric · 896 GB/s |
| Puissance de la carte | 700 W | 750 W |
| vCPU hôte | 20 | 24 |
| RAM hôte | 251 GB | 283 GB |
| NVMe local | 2 TB | 2 TB |
| Prix hebdomadaire | 475 $US | 450 $US |
| Prix mensuel | 1 690 $US | 1 590 $US |
| Par GPU-heure | 2,35 $US | 2,21 $US |
| Prix par GB de VRAM | 21,12 $US | 8,28 $US |
| En stock maintenant | 63 | 8 |
Lequel devriez-vous louer ?
La MI300X moins chère embarque 112 GB de mémoire en plus, donc, rien que sur la capacité, c'est la meilleure carte. La bande passante est de 3.35 TB/s contre 5.3 TB/s, et pour la génération de tokens à flux unique, c'est la bande passante qui détermine la vitesse, pas le chiffre FLOPS de la fiche technique. Seule la carte H100 SXM dispose de NVLink, donc l'entraînement multi-cartes passe à l'échelle sur celle-ci et peine sur la carte MI300X. La carte H100 SXM coûte 6% de plus par mois, $1,690 contre $1,590, ou $2.35 contre $2.21 par GPU-heure.
Déterminez la quantité de VRAM dont votre modèle a réellement besoin
Louez le H100 SXM quand
Multi-week training and fine-tuning runs. A 70B model in FP8 fits on one card; in BF16 it needs two.
1 690 $US/mois · 475 $US/sem · caractéristiques et stock
Louez le MI300X quand
Serving very large models on the fewest cards. The most HBM per card we rent: a 70B model in BF16 fits with 50 GB to spare.
1 590 $US/mois · 450 $US/sem · caractéristiques et stock
Où chaque carte est en stock
Un tiret signifie que la carte est sur liste d'attente dans cette région. Le prix est identique dans les trois, alors choisissez en fonction de la latence et du stock, rien d'autre.
| Région | H100 SXM | MI300X |
|---|---|---|
| DFW-1Dallas, TX | 32 | 8 |
| IAD-1Ashburn, VA | 19 | — |
| PDX-1Hillsboro, OR | 12 | — |
H100 SXM contre MI300X
Le H100 SXM est-il meilleur que le MI300X ?
Quelle est la différence de prix entre le H100 SXM et le MI300X ?
Quelle quantité de VRAM la H100 SXM a-t-elle par rapport à la MI300X ?
Puis-je louer l'une ou l'autre carte sans KYC ?
Lequel est disponible aujourd'hui ?
Puis-je installer plusieurs cartes H100 SXM dans une même machine ?
Louez l'un ou l'autre à la semaine ou au mois
Pas de vérification d'identité, pas d'adresse e-mail, pas de carte bancaire. Configurez la machine, payez l'unique commande générée dans l'une des sept cryptomonnaies, et elle est opérationnelle en environ quatre-vingt-dix secondes.