A100 SXM vs L40S: Specs, Preis und welche man mieten sollte
GPU Rent Hub vermietet beide Karten als dediziertes Bare Metal in drei Rechenzentren in den USA, zahlbar in Bitcoin, Ethereum, USDT, USDC, Monero, Solana oder Litecoin ohne Identitätsprüfung. Die A100 SXM kostet $990 pro Monat und die L40S kostet $520 pro Monat. Alles unten ist gemessen, nicht behauptet.
Was ist der Unterschied zwischen der A100 SXM und der L40S?
Jede Zahl ist die, mit der wir vermieten, entnommen aus demselben Katalog, aus dem das Dashboard die Preise bezieht. Pro GPU-Stunde ist der pauschale Monatspreis geteilt durch 720 Stunden; Sie werden nie stundenweise abgerechnet.
| A100 SXM | L40S | |
|---|---|---|
| Speicher | 80 GB HBM2e | 48 GB GDDR6 ECC |
| Speicherbandbreite | 2.04 TB/s | 864 GB/s |
| Architektur | Ampere (2020) | Ada Lovelace (2023) |
| Kerne | 6,912 CUDA · 432 Tensor | 18,176 CUDA · 568 Tensor · 142 RT |
| FP8 | not supported | 1,466 TFLOPS (sparse) |
| FP16 | 624 TFLOPS (sparse) | 733 TFLOPS (sparse) |
| Interconnect | NVLink · 600 GB/s | PCIe Gen4 peer-to-peer |
| Board-Leistung | 400 W | 350 W |
| Host-vCPU | 16 | 16 |
| Host-RAM | 125 GB | 94 GB |
| Lokale NVMe | 1 TB | 500 GB |
| Wochenpreis | $280 | $148 |
| Monatspreis | $990 | $520 |
| Pro GPU-Stunde | $1.38 | $0.72 |
| Preis pro GB VRAM | $12.38 | $10.83 |
| Jetzt auf Lager | 78 | 74 |
Welche sollten Sie mieten?
Die A100 SXM hat 32 GB mehr Speicher, was allein darüber entscheidet, ob ein Modell überhaupt geladen werden kann. Die L40S unterstützt FP8 und die A100 SXM nicht, was für die günstigere Karte ungewöhnlich ist und sie zur besseren Inferenz-Wahl macht. Die Bandbreite beträgt 2.04 TB/s gegenüber 864 GB/s, und bei der Token-Generierung mit einzelnem Stream bestimmt die Bandbreite die Geschwindigkeit, nicht der FLOPS-Wert im Datenblatt. Nur die A100 SXM hat NVLink, sodass Multi-GPU-Training auf ihr skaliert und auf der L40S ins Stocken gerät. Die A100 SXM kostet 90 % mehr pro Monat, $990 gegenüber $520, bzw. $1.38 gegenüber $0.72 pro GPU-Stunde.
Ermitteln Sie, wie viel VRAM Ihr Modell tatsächlich benötigt
Die A100 SXM mieten, wenn
The cheapest 80 GB card with NVLink. 80 GB of HBM2e under $1,000 a month, the value pick for multi-week runs.
$990/Monat · $280/Woche · Spezifikationen und Bestand
Die L40S mieten, wenn
Serving 7B–34B models in production. 48 GB with FP8 support and RT cores, the best inference card per dollar in our fleet.
$520/Monat · $148/Woche · Spezifikationen und Bestand
Wo jede Karte vorrätig ist
Ein Strich bedeutet, dass die Karte in dieser Region auf der Warteliste steht. Der Preis ist in allen drei identisch, also wählen Sie nach Latenz und Bestand, sonst nichts.
| Region | A100 SXM | L40S |
|---|---|---|
| DFW-1Dallas, TX | 40 | 26 |
| IAD-1Ashburn, VA | 22 | 18 |
| PDX-1Hillsboro, OR | 16 | 30 |
A100 SXM gegen L40S
Ist die A100 SXM besser als die L40S?
Wie groß ist der Preisunterschied zwischen der A100 SXM und der L40S?
Wie viel VRAM hat die A100 SXM im Vergleich zur L40S?
Kann ich eine der beiden Karten ohne KYC mieten?
Welche ist heute verfügbar?
Kann ich mehrere A100 SXM-Karten in eine Maschine einbauen?
Mieten Sie eine der beiden wochen- oder monatsweise
Keine Identitätsprüfung, keine E-Mail-Adresse, keine Karte. Konfigurieren Sie die Maschine, bezahlen Sie die eine Bestellung, die dabei erzeugt wird, mit einer von sieben Kryptowährungen, und sie läuft in etwa neunzig Sekunden.