H100 PCIe vs A100 SXM : spécifications, prix et lequel louer
GPU Rent Hub loue les deux cartes en tant que bare metal dédié dans trois datacenters aux États-Unis, payables en Bitcoin, Ethereum, USDT, USDC, Monero, Solana ou Litecoin sans vérification d'identité. La H100 PCIe est 1 490 $US par mois et la A100 SXM est 990 $US par mois. Tout ce qui suit est mesuré, pas discuté.
Quelle est la différence entre la H100 PCIe et la A100 SXM ?
Chaque chiffre est celui sur lequel nous nous basons pour la location, tiré du même catalogue que celui utilisé par le tableau de bord pour établir les prix. Le prix par GPU-heure est le prix mensuel fixe divisé par 720 heures ; vous n'êtes jamais facturé à l'heure.
| H100 PCIe | A100 SXM | |
|---|---|---|
| Mémoire | 80 GB HBM2e | 80 GB HBM2e |
| Bande passante mémoire | 2 TB/s | 2.04 TB/s |
| Architecture | Hopper (2022) | Ampere (2020) |
| Cœurs | 14,592 CUDA · 456 Tensor | 6,912 CUDA · 432 Tensor |
| FP8 | 3,026 TFLOPS (sparse) | not supported |
| FP16 | 1,513 TFLOPS (sparse) | 624 TFLOPS (sparse) |
| Interconnexion | PCIe Gen5 · optional NVLink bridge 600 GB/s | NVLink · 600 GB/s |
| Puissance de la carte | 350 W | 400 W |
| vCPU hôte | 16 | 16 |
| RAM hôte | 188 GB | 125 GB |
| NVMe local | 1 TB | 1 TB |
| Prix hebdomadaire | 420 $US | 280 $US |
| Prix mensuel | 1 490 $US | 990 $US |
| Par GPU-heure | 2,07 $US | 1,38 $US |
| Prix par GB de VRAM | 18,62 $US | 12,38 $US |
| En stock maintenant | 27 | 78 |
Lequel devriez-vous louer ?
Les deux cartes embarquent 80 GB, donc la capacité n'est pas ce qui départage celle-ci. La carte H100 PCIe prend en charge FP8, contrairement à la carte A100 SXM, ce qui réduit environ de moitié la mémoire nécessaire à un modèle quantifié et constitue la plus grande différence pratique entre les deux. La bande passante est de 2 TB/s contre 2.04 TB/s, et pour la génération de tokens à flux unique, c'est la bande passante qui détermine la vitesse, pas le chiffre FLOPS de la fiche technique. La carte H100 PCIe coûte 51% de plus par mois, $1,490 contre $990, ou $2.07 contre $1.38 par GPU-heure.
Déterminez la quantité de VRAM dont votre modèle a réellement besoin
Louez le H100 PCIe quand
Single-card inference on 70B models in FP8. Same 80 GB as the SXM card, at about 60% of the interconnect bandwidth and half the power.
1 490 $US/mois · 420 $US/sem · caractéristiques et stock
Louez le A100 SXM quand
The cheapest 80 GB card with NVLink. 80 GB of HBM2e under $1,000 a month, the value pick for multi-week runs.
990 $US/mois · 280 $US/sem · caractéristiques et stock
Où chaque carte est en stock
Un tiret signifie que la carte est sur liste d'attente dans cette région. Le prix est identique dans les trois, alors choisissez en fonction de la latence et du stock, rien d'autre.
| Région | H100 PCIe | A100 SXM |
|---|---|---|
| DFW-1Dallas, TX | 14 | 40 |
| IAD-1Ashburn, VA | 9 | 22 |
| PDX-1Hillsboro, OR | 4 | 16 |
H100 PCIe contre A100 SXM
Le H100 PCIe est-il meilleur que le A100 SXM ?
Quelle est la différence de prix entre le H100 PCIe et le A100 SXM ?
Quelle quantité de VRAM la H100 PCIe a-t-elle par rapport à la A100 SXM ?
Puis-je louer l'une ou l'autre carte sans KYC ?
Lequel est disponible aujourd'hui ?
Puis-je installer plusieurs cartes H100 PCIe dans une même machine ?
Louez l'un ou l'autre à la semaine ou au mois
Pas de vérification d'identité, pas d'adresse e-mail, pas de carte bancaire. Configurez la machine, payez l'unique commande générée dans l'une des sept cryptomonnaies, et elle est opérationnelle en environ quatre-vingt-dix secondes.