H200 SXM vs MI300X: Specs, Preis und welche man mieten sollte
GPU Rent Hub vermietet beide Karten als dediziertes Bare Metal in drei Rechenzentren in den USA, zahlbar in Bitcoin, Ethereum, USDT, USDC, Monero, Solana oder Litecoin ohne Identitätsprüfung. Die H200 SXM kostet $2,290 pro Monat und die MI300X kostet $1,590 pro Monat. Alles unten ist gemessen, nicht behauptet.
Was ist der Unterschied zwischen der H200 SXM und der MI300X?
Jede Zahl ist die, mit der wir vermieten, entnommen aus demselben Katalog, aus dem das Dashboard die Preise bezieht. Pro GPU-Stunde ist der pauschale Monatspreis geteilt durch 720 Stunden; Sie werden nie stundenweise abgerechnet.
| H200 SXM | MI300X | |
|---|---|---|
| Speicher | 141 GB HBM3e | 192 GB HBM3 |
| Speicherbandbreite | 4.8 TB/s | 5.3 TB/s |
| Architektur | Hopper (2024) | CDNA 3 (2023) |
| Kerne | 16,896 CUDA · 528 Tensor | 304 compute units · 19,456 stream processors |
| FP8 | 3,958 TFLOPS (sparse) | 2,615 TFLOPS |
| FP16 | 1,979 TFLOPS (sparse) | 1,307 TFLOPS |
| Interconnect | NVLink · 900 GB/s | Infinity Fabric · 896 GB/s |
| Board-Leistung | 700 W | 750 W |
| Host-vCPU | 24 | 24 |
| Host-RAM | 251 GB | 283 GB |
| Lokale NVMe | 2 TB | 2 TB |
| Wochenpreis | $640 | $450 |
| Monatspreis | $2,290 | $1,590 |
| Pro GPU-Stunde | $3.18 | $2.21 |
| Preis pro GB VRAM | $16.24 | $8.28 |
| Jetzt auf Lager | 19 | 8 |
Welche sollten Sie mieten?
Die günstigere MI300X hat 51 GB mehr Speicher, daher ist sie allein nach Kapazität die bessere Karte. Die Bandbreite beträgt 4.8 TB/s gegenüber 5.3 TB/s, und bei der Token-Generierung mit einzelnem Stream bestimmt die Bandbreite die Geschwindigkeit, nicht der FLOPS-Wert im Datenblatt. Nur die H200 SXM hat NVLink, sodass Multi-GPU-Training auf ihr skaliert und auf der MI300X ins Stocken gerät. Die H200 SXM kostet 44 % mehr pro Monat, $2,290 gegenüber $1,590, bzw. $3.18 gegenüber $2.21 pro GPU-Stunde.
Ermitteln Sie, wie viel VRAM Ihr Modell tatsächlich benötigt
Die H200 SXM mieten, wenn
Serving 70B–120B models without sharding. A 70B model in BF16 fits on two cards with room for a batch; in FP8 it fits on one.
$2,290/Monat · $640/Woche · Spezifikationen und Bestand
Die MI300X mieten, wenn
Serving very large models on the fewest cards. The most HBM per card we rent: a 70B model in BF16 fits with 50 GB to spare.
$1,590/Monat · $450/Woche · Spezifikationen und Bestand
Wo jede Karte vorrätig ist
Ein Strich bedeutet, dass die Karte in dieser Region auf der Warteliste steht. Der Preis ist in allen drei identisch, also wählen Sie nach Latenz und Bestand, sonst nichts.
| Region | H200 SXM | MI300X |
|---|---|---|
| DFW-1Dallas, TX | 11 | 8 |
| IAD-1Ashburn, VA | 8 | — |
| PDX-1Hillsboro, OR | — | — |
H200 SXM gegen MI300X
Ist die H200 SXM besser als die MI300X?
Wie groß ist der Preisunterschied zwischen der H200 SXM und der MI300X?
Wie viel VRAM hat die H200 SXM im Vergleich zur MI300X?
Kann ich eine der beiden Karten ohne KYC mieten?
Welche ist heute verfügbar?
Kann ich mehrere H200 SXM-Karten in eine Maschine einbauen?
Mieten Sie eine der beiden wochen- oder monatsweise
Keine Identitätsprüfung, keine E-Mail-Adresse, keine Karte. Konfigurieren Sie die Maschine, bezahlen Sie die eine Bestellung, die dabei erzeugt wird, mit einer von sieben Kryptowährungen, und sie läuft in etwa neunzig Sekunden.