A100 SXM vs L40S: specificaties, prijs en welke te huren
GPU Rent Hub verhuurt beide kaarten als dedicated bare metal in drie datacenters in de Verenigde Staten, betaald in Bitcoin, Ethereum, USDT, USDC, Monero, Solana of Litecoin zonder identiteitsverificatie. De A100 SXM is $990 per maand en de L40S is $520 per maand. Alles hieronder is gemeten, niet bediscussieerd.
Wat is het verschil tussen de A100 SXM en de L40S?
Elk cijfer is het cijfer dat wij hanteren bij verhuur, afkomstig uit dezelfde catalogus waar het dashboard de prijzen uit haalt. Per GPU-uur is het vaste maandbedrag gedeeld door 720 uur; je wordt nooit per uur gefactureerd.
| A100 SXM | L40S | |
|---|---|---|
| Geheugen | 80 GB HBM2e | 48 GB GDDR6 ECC |
| Geheugenbandbreedte | 2.04 TB/s | 864 GB/s |
| Architectuur | Ampere (2020) | Ada Lovelace (2023) |
| Cores | 6,912 CUDA · 432 Tensor | 18,176 CUDA · 568 Tensor · 142 RT |
| FP8 | not supported | 1,466 TFLOPS (sparse) |
| FP16 | 624 TFLOPS (sparse) | 733 TFLOPS (sparse) |
| Interconnectie | NVLink · 600 GB/s | PCIe Gen4 peer-to-peer |
| Bordvermogen | 400 W | 350 W |
| Host-vCPU | 16 | 16 |
| Host-RAM | 125 GB | 94 GB |
| Lokale NVMe | 1 TB | 500 GB |
| Weekprijs | $280 | $148 |
| Maandprijs | $990 | $520 |
| Per GPU-uur | $1.38 | $0.72 |
| Prijs per GB VRAM | $12.38 | $10.83 |
| Nu op voorraad | 78 | 74 |
Welke moet je huren?
De A100 SXM heeft 32 GB meer geheugen, wat het enige is dat bepaalt of een model überhaupt laadt. De L40S ondersteunt FP8 en de A100 SXM niet, wat ongebruikelijk is voor de goedkopere kaart en hem de betere keuze voor inference maakt. Bandbreedte is 2.04 TB/s tegenover 864 GB/s, en bij het genereren van tokens in één stream is het de bandbreedte die de snelheid bepaalt, niet het FLOPS-getal op het specificatieblad. Alleen de A100 SXM heeft NVLink, dus trainen over meerdere kaarten schaalt daarop en verloopt moeizaam op de L40S. De A100 SXM kost 90% meer per maand, $990 tegenover $520, of $1.38 tegenover $0.72 per GPU-uur.
Wanneer de A100 SXM huren
The cheapest 80 GB card with NVLink. 80 GB of HBM2e under $1,000 a month, the value pick for multi-week runs.
$990/mo · $280/wk · specificaties en voorraad
Wanneer de L40S huren
Serving 7B–34B models in production. 48 GB with FP8 support and RT cores, the best inference card per dollar in our fleet.
$520/mo · $148/wk · specificaties en voorraad
Waar elke kaart op voorraad is
Een streepje betekent dat de kaart in die regio op de wachtlijst staat. De prijs is in alle drie gelijk, dus kies op basis van latentie en voorraad, niets anders.
| Regio | A100 SXM | L40S |
|---|---|---|
| DFW-1Dallas, TX | 40 | 26 |
| IAD-1Ashburn, VA | 22 | 18 |
| PDX-1Hillsboro, OR | 16 | 30 |
A100 SXM tegenover L40S
Is de A100 SXM beter dan de L40S?
Wat is het prijsverschil tussen de A100 SXM en de L40S?
Hoeveel VRAM heeft de A100 SXM vergeleken met de L40S?
Kan ik een van beide kaarten huren zonder KYC?
Welke is vandaag beschikbaar?
Kan ik meerdere A100 SXM kaarten in één machine plaatsen?
Huur een van beide per week of per maand
Geen identiteitscontrole, geen e-mailadres, geen kaart. Configureer de machine, betaal de ene bestelling die deze oplevert in een van zeven munten, en de machine draait binnen ongeveer negentig seconden.