H100 SXM vs MI300X: Specs, Preis und welche man mieten sollte
GPU Rent Hub vermietet beide Karten als dediziertes Bare Metal in drei Rechenzentren in den USA, zahlbar in Bitcoin, Ethereum, USDT, USDC, Monero, Solana oder Litecoin ohne Identitätsprüfung. Die H100 SXM kostet $1,690 pro Monat und die MI300X kostet $1,590 pro Monat. Alles unten ist gemessen, nicht behauptet.
Was ist der Unterschied zwischen der H100 SXM und der MI300X?
Jede Zahl ist die, mit der wir vermieten, entnommen aus demselben Katalog, aus dem das Dashboard die Preise bezieht. Pro GPU-Stunde ist der pauschale Monatspreis geteilt durch 720 Stunden; Sie werden nie stundenweise abgerechnet.
| H100 SXM | MI300X | |
|---|---|---|
| Speicher | 80 GB HBM3 | 192 GB HBM3 |
| Speicherbandbreite | 3.35 TB/s | 5.3 TB/s |
| Architektur | Hopper (2022) | CDNA 3 (2023) |
| Kerne | 16,896 CUDA · 528 Tensor | 304 compute units · 19,456 stream processors |
| FP8 | 3,958 TFLOPS (sparse) | 2,615 TFLOPS |
| FP16 | 1,979 TFLOPS (sparse) | 1,307 TFLOPS |
| Interconnect | NVLink · 900 GB/s | Infinity Fabric · 896 GB/s |
| Board-Leistung | 700 W | 750 W |
| Host-vCPU | 20 | 24 |
| Host-RAM | 251 GB | 283 GB |
| Lokale NVMe | 2 TB | 2 TB |
| Wochenpreis | $475 | $450 |
| Monatspreis | $1,690 | $1,590 |
| Pro GPU-Stunde | $2.35 | $2.21 |
| Preis pro GB VRAM | $21.12 | $8.28 |
| Jetzt auf Lager | 63 | 8 |
Welche sollten Sie mieten?
Die günstigere MI300X hat 112 GB mehr Speicher, daher ist sie allein nach Kapazität die bessere Karte. Die Bandbreite beträgt 3.35 TB/s gegenüber 5.3 TB/s, und bei der Token-Generierung mit einzelnem Stream bestimmt die Bandbreite die Geschwindigkeit, nicht der FLOPS-Wert im Datenblatt. Nur die H100 SXM hat NVLink, sodass Multi-GPU-Training auf ihr skaliert und auf der MI300X ins Stocken gerät. Die H100 SXM kostet 6 % mehr pro Monat, $1,690 gegenüber $1,590, bzw. $2.35 gegenüber $2.21 pro GPU-Stunde.
Ermitteln Sie, wie viel VRAM Ihr Modell tatsächlich benötigt
Die H100 SXM mieten, wenn
Multi-week training and fine-tuning runs. A 70B model in FP8 fits on one card; in BF16 it needs two.
$1,690/Monat · $475/Woche · Spezifikationen und Bestand
Die MI300X mieten, wenn
Serving very large models on the fewest cards. The most HBM per card we rent: a 70B model in BF16 fits with 50 GB to spare.
$1,590/Monat · $450/Woche · Spezifikationen und Bestand
Wo jede Karte vorrätig ist
Ein Strich bedeutet, dass die Karte in dieser Region auf der Warteliste steht. Der Preis ist in allen drei identisch, also wählen Sie nach Latenz und Bestand, sonst nichts.
| Region | H100 SXM | MI300X |
|---|---|---|
| DFW-1Dallas, TX | 32 | 8 |
| IAD-1Ashburn, VA | 19 | — |
| PDX-1Hillsboro, OR | 12 | — |
H100 SXM gegen MI300X
Ist die H100 SXM besser als die MI300X?
Wie groß ist der Preisunterschied zwischen der H100 SXM und der MI300X?
Wie viel VRAM hat die H100 SXM im Vergleich zur MI300X?
Kann ich eine der beiden Karten ohne KYC mieten?
Welche ist heute verfügbar?
Kann ich mehrere H100 SXM-Karten in eine Maschine einbauen?
Mieten Sie eine der beiden wochen- oder monatsweise
Keine Identitätsprüfung, keine E-Mail-Adresse, keine Karte. Konfigurieren Sie die Maschine, bezahlen Sie die eine Bestellung, die dabei erzeugt wird, mit einer von sieben Kryptowährungen, und sie läuft in etwa neunzig Sekunden.