A100 SXM vs L40S : spécifications, prix et lequel louer
GPU Rent Hub loue les deux cartes en tant que bare metal dédié dans trois datacenters aux États-Unis, payables en Bitcoin, Ethereum, USDT, USDC, Monero, Solana ou Litecoin sans vérification d'identité. La A100 SXM est 990 $US par mois et la L40S est 520 $US par mois. Tout ce qui suit est mesuré, pas discuté.
Quelle est la différence entre la A100 SXM et la L40S ?
Chaque chiffre est celui sur lequel nous nous basons pour la location, tiré du même catalogue que celui utilisé par le tableau de bord pour établir les prix. Le prix par GPU-heure est le prix mensuel fixe divisé par 720 heures ; vous n'êtes jamais facturé à l'heure.
| A100 SXM | L40S | |
|---|---|---|
| Mémoire | 80 GB HBM2e | 48 GB GDDR6 ECC |
| Bande passante mémoire | 2.04 TB/s | 864 GB/s |
| Architecture | Ampere (2020) | Ada Lovelace (2023) |
| Cœurs | 6,912 CUDA · 432 Tensor | 18,176 CUDA · 568 Tensor · 142 RT |
| FP8 | not supported | 1,466 TFLOPS (sparse) |
| FP16 | 624 TFLOPS (sparse) | 733 TFLOPS (sparse) |
| Interconnexion | NVLink · 600 GB/s | PCIe Gen4 peer-to-peer |
| Puissance de la carte | 400 W | 350 W |
| vCPU hôte | 16 | 16 |
| RAM hôte | 125 GB | 94 GB |
| NVMe local | 1 TB | 500 GB |
| Prix hebdomadaire | 280 $US | 148 $US |
| Prix mensuel | 990 $US | 520 $US |
| Par GPU-heure | 1,38 $US | 0,72 $US |
| Prix par GB de VRAM | 12,38 $US | 10,83 $US |
| En stock maintenant | 78 | 74 |
Lequel devriez-vous louer ?
Le A100 SXM embarque 32 GB de mémoire en plus, ce qui est la seule chose qui détermine si un modèle se charge tout court. La carte L40S prend en charge FP8, contrairement à la carte A100 SXM, ce qui est inhabituel pour la carte la moins chère et fait de celle-ci le meilleur achat pour l'inférence. La bande passante est de 2.04 TB/s contre 864 GB/s, et pour la génération de tokens à flux unique, c'est la bande passante qui détermine la vitesse, pas le chiffre FLOPS de la fiche technique. Seule la carte A100 SXM dispose de NVLink, donc l'entraînement multi-cartes passe à l'échelle sur celle-ci et peine sur la carte L40S. La carte A100 SXM coûte 90% de plus par mois, $990 contre $520, ou $1.38 contre $0.72 par GPU-heure.
Déterminez la quantité de VRAM dont votre modèle a réellement besoin
Louez le A100 SXM quand
The cheapest 80 GB card with NVLink. 80 GB of HBM2e under $1,000 a month, the value pick for multi-week runs.
990 $US/mois · 280 $US/sem · caractéristiques et stock
Louez le L40S quand
Serving 7B–34B models in production. 48 GB with FP8 support and RT cores, the best inference card per dollar in our fleet.
520 $US/mois · 148 $US/sem · caractéristiques et stock
Où chaque carte est en stock
Un tiret signifie que la carte est sur liste d'attente dans cette région. Le prix est identique dans les trois, alors choisissez en fonction de la latence et du stock, rien d'autre.
| Région | A100 SXM | L40S |
|---|---|---|
| DFW-1Dallas, TX | 40 | 26 |
| IAD-1Ashburn, VA | 22 | 18 |
| PDX-1Hillsboro, OR | 16 | 30 |
A100 SXM contre L40S
Le A100 SXM est-il meilleur que le L40S ?
Quelle est la différence de prix entre le A100 SXM et le L40S ?
Quelle quantité de VRAM la A100 SXM a-t-elle par rapport à la L40S ?
Puis-je louer l'une ou l'autre carte sans KYC ?
Lequel est disponible aujourd'hui ?
Puis-je installer plusieurs cartes A100 SXM dans une même machine ?
Louez l'un ou l'autre à la semaine ou au mois
Pas de vérification d'identité, pas d'adresse e-mail, pas de carte bancaire. Configurez la machine, payez l'unique commande générée dans l'une des sept cryptomonnaies, et elle est opérationnelle en environ quatre-vingt-dix secondes.