H100 SXM vs A100 SXM : spécifications, prix et lequel louer
GPU Rent Hub loue les deux cartes en tant que bare metal dédié dans trois datacenters aux États-Unis, payables en Bitcoin, Ethereum, USDT, USDC, Monero, Solana ou Litecoin sans vérification d'identité. La H100 SXM est 1 690 $US par mois et la A100 SXM est 990 $US par mois. Tout ce qui suit est mesuré, pas discuté.
Quelle est la différence entre la H100 SXM et la A100 SXM ?
Chaque chiffre est celui sur lequel nous nous basons pour la location, tiré du même catalogue que celui utilisé par le tableau de bord pour établir les prix. Le prix par GPU-heure est le prix mensuel fixe divisé par 720 heures ; vous n'êtes jamais facturé à l'heure.
| H100 SXM | A100 SXM | |
|---|---|---|
| Mémoire | 80 GB HBM3 | 80 GB HBM2e |
| Bande passante mémoire | 3.35 TB/s | 2.04 TB/s |
| Architecture | Hopper (2022) | Ampere (2020) |
| Cœurs | 16,896 CUDA · 528 Tensor | 6,912 CUDA · 432 Tensor |
| FP8 | 3,958 TFLOPS (sparse) | not supported |
| FP16 | 1,979 TFLOPS (sparse) | 624 TFLOPS (sparse) |
| Interconnexion | NVLink · 900 GB/s | NVLink · 600 GB/s |
| Puissance de la carte | 700 W | 400 W |
| vCPU hôte | 20 | 16 |
| RAM hôte | 251 GB | 125 GB |
| NVMe local | 2 TB | 1 TB |
| Prix hebdomadaire | 475 $US | 280 $US |
| Prix mensuel | 1 690 $US | 990 $US |
| Par GPU-heure | 2,35 $US | 1,38 $US |
| Prix par GB de VRAM | 21,12 $US | 12,38 $US |
| En stock maintenant | 63 | 78 |
Lequel devriez-vous louer ?
Les deux cartes embarquent 80 GB, donc la capacité n'est pas ce qui départage celle-ci. La carte H100 SXM prend en charge FP8, contrairement à la carte A100 SXM, ce qui réduit environ de moitié la mémoire nécessaire à un modèle quantifié et constitue la plus grande différence pratique entre les deux. La bande passante est de 3.35 TB/s contre 2.04 TB/s, et pour la génération de tokens à flux unique, c'est la bande passante qui détermine la vitesse, pas le chiffre FLOPS de la fiche technique. La carte H100 SXM coûte 71% de plus par mois, $1,690 contre $990, ou $2.35 contre $1.38 par GPU-heure.
Déterminez la quantité de VRAM dont votre modèle a réellement besoin
Louez le H100 SXM quand
Multi-week training and fine-tuning runs. A 70B model in FP8 fits on one card; in BF16 it needs two.
1 690 $US/mois · 475 $US/sem · caractéristiques et stock
Louez le A100 SXM quand
The cheapest 80 GB card with NVLink. 80 GB of HBM2e under $1,000 a month, the value pick for multi-week runs.
990 $US/mois · 280 $US/sem · caractéristiques et stock
Où chaque carte est en stock
Un tiret signifie que la carte est sur liste d'attente dans cette région. Le prix est identique dans les trois, alors choisissez en fonction de la latence et du stock, rien d'autre.
| Région | H100 SXM | A100 SXM |
|---|---|---|
| DFW-1Dallas, TX | 32 | 40 |
| IAD-1Ashburn, VA | 19 | 22 |
| PDX-1Hillsboro, OR | 12 | 16 |
H100 SXM contre A100 SXM
Le H100 SXM est-il meilleur que le A100 SXM ?
Quelle est la différence de prix entre le H100 SXM et le A100 SXM ?
Quelle quantité de VRAM la H100 SXM a-t-elle par rapport à la A100 SXM ?
Puis-je louer l'une ou l'autre carte sans KYC ?
Lequel est disponible aujourd'hui ?
Puis-je installer plusieurs cartes H100 SXM dans une même machine ?
Louez l'un ou l'autre à la semaine ou au mois
Pas de vérification d'identité, pas d'adresse e-mail, pas de carte bancaire. Configurez la machine, payez l'unique commande générée dans l'une des sept cryptomonnaies, et elle est opérationnelle en environ quatre-vingt-dix secondes.