H100 SXM vs A100 SXM: Specs, Preis und welche man mieten sollte
GPU Rent Hub vermietet beide Karten als dediziertes Bare Metal in drei Rechenzentren in den USA, zahlbar in Bitcoin, Ethereum, USDT, USDC, Monero, Solana oder Litecoin ohne Identitätsprüfung. Die H100 SXM kostet $1,690 pro Monat und die A100 SXM kostet $990 pro Monat. Alles unten ist gemessen, nicht behauptet.
Was ist der Unterschied zwischen der H100 SXM und der A100 SXM?
Jede Zahl ist die, mit der wir vermieten, entnommen aus demselben Katalog, aus dem das Dashboard die Preise bezieht. Pro GPU-Stunde ist der pauschale Monatspreis geteilt durch 720 Stunden; Sie werden nie stundenweise abgerechnet.
| H100 SXM | A100 SXM | |
|---|---|---|
| Speicher | 80 GB HBM3 | 80 GB HBM2e |
| Speicherbandbreite | 3.35 TB/s | 2.04 TB/s |
| Architektur | Hopper (2022) | Ampere (2020) |
| Kerne | 16,896 CUDA · 528 Tensor | 6,912 CUDA · 432 Tensor |
| FP8 | 3,958 TFLOPS (sparse) | not supported |
| FP16 | 1,979 TFLOPS (sparse) | 624 TFLOPS (sparse) |
| Interconnect | NVLink · 900 GB/s | NVLink · 600 GB/s |
| Board-Leistung | 700 W | 400 W |
| Host-vCPU | 20 | 16 |
| Host-RAM | 251 GB | 125 GB |
| Lokale NVMe | 2 TB | 1 TB |
| Wochenpreis | $475 | $280 |
| Monatspreis | $1,690 | $990 |
| Pro GPU-Stunde | $2.35 | $1.38 |
| Preis pro GB VRAM | $21.12 | $12.38 |
| Jetzt auf Lager | 63 | 78 |
Welche sollten Sie mieten?
Beide Karten haben 80 GB, daher entscheidet hier nicht die Kapazität. Die H100 SXM unterstützt FP8 und die A100 SXM nicht, was den Speicherbedarf eines quantisierten Modells etwa halbiert und den größten praktischen Unterschied zwischen den beiden darstellt. Die Bandbreite beträgt 3.35 TB/s gegenüber 2.04 TB/s, und bei der Token-Generierung mit einzelnem Stream bestimmt die Bandbreite die Geschwindigkeit, nicht der FLOPS-Wert im Datenblatt. Die H100 SXM kostet 71 % mehr pro Monat, $1,690 gegenüber $990, bzw. $2.35 gegenüber $1.38 pro GPU-Stunde.
Ermitteln Sie, wie viel VRAM Ihr Modell tatsächlich benötigt
Die H100 SXM mieten, wenn
Multi-week training and fine-tuning runs. A 70B model in FP8 fits on one card; in BF16 it needs two.
$1,690/Monat · $475/Woche · Spezifikationen und Bestand
Die A100 SXM mieten, wenn
The cheapest 80 GB card with NVLink. 80 GB of HBM2e under $1,000 a month, the value pick for multi-week runs.
$990/Monat · $280/Woche · Spezifikationen und Bestand
Wo jede Karte vorrätig ist
Ein Strich bedeutet, dass die Karte in dieser Region auf der Warteliste steht. Der Preis ist in allen drei identisch, also wählen Sie nach Latenz und Bestand, sonst nichts.
| Region | H100 SXM | A100 SXM |
|---|---|---|
| DFW-1Dallas, TX | 32 | 40 |
| IAD-1Ashburn, VA | 19 | 22 |
| PDX-1Hillsboro, OR | 12 | 16 |
H100 SXM gegen A100 SXM
Ist die H100 SXM besser als die A100 SXM?
Wie groß ist der Preisunterschied zwischen der H100 SXM und der A100 SXM?
Wie viel VRAM hat die H100 SXM im Vergleich zur A100 SXM?
Kann ich eine der beiden Karten ohne KYC mieten?
Welche ist heute verfügbar?
Kann ich mehrere H100 SXM-Karten in eine Maschine einbauen?
Mieten Sie eine der beiden wochen- oder monatsweise
Keine Identitätsprüfung, keine E-Mail-Adresse, keine Karte. Konfigurieren Sie die Maschine, bezahlen Sie die eine Bestellung, die dabei erzeugt wird, mit einer von sieben Kryptowährungen, und sie läuft in etwa neunzig Sekunden.