H200 SXM vs A100 SXM: Specs, Preis und welche man mieten sollte
GPU Rent Hub vermietet beide Karten als dediziertes Bare Metal in drei Rechenzentren in den USA, zahlbar in Bitcoin, Ethereum, USDT, USDC, Monero, Solana oder Litecoin ohne Identitätsprüfung. Die H200 SXM kostet $2,290 pro Monat und die A100 SXM kostet $990 pro Monat. Alles unten ist gemessen, nicht behauptet.
Was ist der Unterschied zwischen der H200 SXM und der A100 SXM?
Jede Zahl ist die, mit der wir vermieten, entnommen aus demselben Katalog, aus dem das Dashboard die Preise bezieht. Pro GPU-Stunde ist der pauschale Monatspreis geteilt durch 720 Stunden; Sie werden nie stundenweise abgerechnet.
| H200 SXM | A100 SXM | |
|---|---|---|
| Speicher | 141 GB HBM3e | 80 GB HBM2e |
| Speicherbandbreite | 4.8 TB/s | 2.04 TB/s |
| Architektur | Hopper (2024) | Ampere (2020) |
| Kerne | 16,896 CUDA · 528 Tensor | 6,912 CUDA · 432 Tensor |
| FP8 | 3,958 TFLOPS (sparse) | not supported |
| FP16 | 1,979 TFLOPS (sparse) | 624 TFLOPS (sparse) |
| Interconnect | NVLink · 900 GB/s | NVLink · 600 GB/s |
| Board-Leistung | 700 W | 400 W |
| Host-vCPU | 24 | 16 |
| Host-RAM | 251 GB | 125 GB |
| Lokale NVMe | 2 TB | 1 TB |
| Wochenpreis | $640 | $280 |
| Monatspreis | $2,290 | $990 |
| Pro GPU-Stunde | $3.18 | $1.38 |
| Preis pro GB VRAM | $16.24 | $12.38 |
| Jetzt auf Lager | 19 | 78 |
Welche sollten Sie mieten?
Die H200 SXM hat 61 GB mehr Speicher, was allein darüber entscheidet, ob ein Modell überhaupt geladen werden kann. Die H200 SXM unterstützt FP8 und die A100 SXM nicht, was den Speicherbedarf eines quantisierten Modells etwa halbiert und den größten praktischen Unterschied zwischen den beiden darstellt. Die Bandbreite beträgt 4.8 TB/s gegenüber 2.04 TB/s, und bei der Token-Generierung mit einzelnem Stream bestimmt die Bandbreite die Geschwindigkeit, nicht der FLOPS-Wert im Datenblatt. Die H200 SXM kostet 131 % mehr pro Monat, $2,290 gegenüber $990, bzw. $3.18 gegenüber $1.38 pro GPU-Stunde.
Ermitteln Sie, wie viel VRAM Ihr Modell tatsächlich benötigt
Die H200 SXM mieten, wenn
Serving 70B–120B models without sharding. A 70B model in BF16 fits on two cards with room for a batch; in FP8 it fits on one.
$2,290/Monat · $640/Woche · Spezifikationen und Bestand
Die A100 SXM mieten, wenn
The cheapest 80 GB card with NVLink. 80 GB of HBM2e under $1,000 a month, the value pick for multi-week runs.
$990/Monat · $280/Woche · Spezifikationen und Bestand
Wo jede Karte vorrätig ist
Ein Strich bedeutet, dass die Karte in dieser Region auf der Warteliste steht. Der Preis ist in allen drei identisch, also wählen Sie nach Latenz und Bestand, sonst nichts.
| Region | H200 SXM | A100 SXM |
|---|---|---|
| DFW-1Dallas, TX | 11 | 40 |
| IAD-1Ashburn, VA | 8 | 22 |
| PDX-1Hillsboro, OR | — | 16 |
H200 SXM gegen A100 SXM
Ist die H200 SXM besser als die A100 SXM?
Wie groß ist der Preisunterschied zwischen der H200 SXM und der A100 SXM?
Wie viel VRAM hat die H200 SXM im Vergleich zur A100 SXM?
Kann ich eine der beiden Karten ohne KYC mieten?
Welche ist heute verfügbar?
Kann ich mehrere H200 SXM-Karten in eine Maschine einbauen?
Mieten Sie eine der beiden wochen- oder monatsweise
Keine Identitätsprüfung, keine E-Mail-Adresse, keine Karte. Konfigurieren Sie die Maschine, bezahlen Sie die eine Bestellung, die dabei erzeugt wird, mit einer von sieben Kryptowährungen, und sie läuft in etwa neunzig Sekunden.