H200 SXM vs A100 SXM : spécifications, prix et lequel louer
GPU Rent Hub loue les deux cartes en tant que bare metal dédié dans trois datacenters aux États-Unis, payables en Bitcoin, Ethereum, USDT, USDC, Monero, Solana ou Litecoin sans vérification d'identité. La H200 SXM est 2 290 $US par mois et la A100 SXM est 990 $US par mois. Tout ce qui suit est mesuré, pas discuté.
Quelle est la différence entre la H200 SXM et la A100 SXM ?
Chaque chiffre est celui sur lequel nous nous basons pour la location, tiré du même catalogue que celui utilisé par le tableau de bord pour établir les prix. Le prix par GPU-heure est le prix mensuel fixe divisé par 720 heures ; vous n'êtes jamais facturé à l'heure.
| H200 SXM | A100 SXM | |
|---|---|---|
| Mémoire | 141 GB HBM3e | 80 GB HBM2e |
| Bande passante mémoire | 4.8 TB/s | 2.04 TB/s |
| Architecture | Hopper (2024) | Ampere (2020) |
| Cœurs | 16,896 CUDA · 528 Tensor | 6,912 CUDA · 432 Tensor |
| FP8 | 3,958 TFLOPS (sparse) | not supported |
| FP16 | 1,979 TFLOPS (sparse) | 624 TFLOPS (sparse) |
| Interconnexion | NVLink · 900 GB/s | NVLink · 600 GB/s |
| Puissance de la carte | 700 W | 400 W |
| vCPU hôte | 24 | 16 |
| RAM hôte | 251 GB | 125 GB |
| NVMe local | 2 TB | 1 TB |
| Prix hebdomadaire | 640 $US | 280 $US |
| Prix mensuel | 2 290 $US | 990 $US |
| Par GPU-heure | 3,18 $US | 1,38 $US |
| Prix par GB de VRAM | 16,24 $US | 12,38 $US |
| En stock maintenant | 19 | 78 |
Lequel devriez-vous louer ?
Le H200 SXM embarque 61 GB de mémoire en plus, ce qui est la seule chose qui détermine si un modèle se charge tout court. La carte H200 SXM prend en charge FP8, contrairement à la carte A100 SXM, ce qui réduit environ de moitié la mémoire nécessaire à un modèle quantifié et constitue la plus grande différence pratique entre les deux. La bande passante est de 4.8 TB/s contre 2.04 TB/s, et pour la génération de tokens à flux unique, c'est la bande passante qui détermine la vitesse, pas le chiffre FLOPS de la fiche technique. La carte H200 SXM coûte 131% de plus par mois, $2,290 contre $990, ou $3.18 contre $1.38 par GPU-heure.
Déterminez la quantité de VRAM dont votre modèle a réellement besoin
Louez le H200 SXM quand
Serving 70B–120B models without sharding. A 70B model in BF16 fits on two cards with room for a batch; in FP8 it fits on one.
2 290 $US/mois · 640 $US/sem · caractéristiques et stock
Louez le A100 SXM quand
The cheapest 80 GB card with NVLink. 80 GB of HBM2e under $1,000 a month, the value pick for multi-week runs.
990 $US/mois · 280 $US/sem · caractéristiques et stock
Où chaque carte est en stock
Un tiret signifie que la carte est sur liste d'attente dans cette région. Le prix est identique dans les trois, alors choisissez en fonction de la latence et du stock, rien d'autre.
| Région | H200 SXM | A100 SXM |
|---|---|---|
| DFW-1Dallas, TX | 11 | 40 |
| IAD-1Ashburn, VA | 8 | 22 |
| PDX-1Hillsboro, OR | — | 16 |
H200 SXM contre A100 SXM
Le H200 SXM est-il meilleur que le A100 SXM ?
Quelle est la différence de prix entre le H200 SXM et le A100 SXM ?
Quelle quantité de VRAM la H200 SXM a-t-elle par rapport à la A100 SXM ?
Puis-je louer l'une ou l'autre carte sans KYC ?
Lequel est disponible aujourd'hui ?
Puis-je installer plusieurs cartes H200 SXM dans une même machine ?
Louez l'un ou l'autre à la semaine ou au mois
Pas de vérification d'identité, pas d'adresse e-mail, pas de carte bancaire. Configurez la machine, payez l'unique commande générée dans l'une des sept cryptomonnaies, et elle est opérationnelle en environ quatre-vingt-dix secondes.