H100 SXM vs MI300X: özellikler, fiyat ve hangisini kiralamalı
GPU Rent Hub her iki kartı da üç ABD veri merkezinde adanmış çıplak donanım olarak kiralar, ödenen Bitcoin, Ethereum, USDT, USDC, Monero, Solana veya Litecoin ile kimlik doğrulaması olmadan. Bu H100 SXM ayda $1,690 ve MI300X ayda $1,590. Her şey aşağıda ölçülmüştür, tartışmaya açık değildir.
H100 SXM ile MI300X arasındaki fark nedir?
Her rakam, kiraladığımız değerdir ve kontrol panelinin fiyatlandırdığı aynı katalogdan alınmıştır. GPU başına saat ücreti, aylık sabit fiyatın 720 saate bölünmesiyle bulunur; asla saatlik faturalandırılmazsınız.
| H100 SXM | MI300X | |
|---|---|---|
| Bellek | 80 GB HBM3 | 192 GB HBM3 |
| Bellek bant genişliği | 3.35 TB/s | 5.3 TB/s |
| Mimari | Hopper (2022) | CDNA 3 (2023) |
| Çekirdekler | 16,896 CUDA · 528 Tensor | 304 compute units · 19,456 stream processors |
| FP8 | 3,958 TFLOPS (sparse) | 2,615 TFLOPS |
| FP16 | 1,979 TFLOPS (sparse) | 1,307 TFLOPS |
| Ara bağlantı | NVLink · 900 GB/s | Infinity Fabric · 896 GB/s |
| Kart gücü | 700 W | 750 W |
| Ana vCPU | 20 | 24 |
| Ana RAM | 251 GB | 283 GB |
| Yerel NVMe | 2 TB | 2 TB |
| Haftalık fiyat | $475 | $450 |
| Aylık fiyat | $1,690 | $1,590 |
| GPU-saat başına | $2.35 | $2.21 |
| GB VRAM başına fiyat | $21.12 | $8.28 |
| Şu an stokta | 63 | 8 |
Hangisini kiralamalısınız?
Daha ucuz olan MI300X, 112 GB daha fazla bellek taşır, bu yüzden yalnızca kapasiteye bakıldığında daha iyi bir karttır. Bant genişliği 3.35 TB/s karşısında 5.3 TB/s; tek akışlı token üretimi için hızı belirleyen, teknik özellik tablosundaki FLOPS değeri değil bant genişliğidir. Yalnızca H100 SXM NVLink'e sahiptir; bu nedenle çok kartlı eğitim onda iyi ölçeklenir, MI300X üzerinde ise zorlanır. H100 SXM ayda %6 daha pahalıdır; $1,690 karşısında $1,590 veya GPU-saat başına $2.35 karşısında $2.21.
Modelinizin gerçekte ne kadar VRAM'e ihtiyaç duyduğunu hesaplayın
H100 SXM ne zaman kiralanır
Multi-week training and fine-tuning runs. A 70B model in FP8 fits on one card; in BF16 it needs two.
$1,690/ay · $475/hafta · teknik özellikler ve stok
MI300X ne zaman kiralanır
Serving very large models on the fewest cards. The most HBM per card we rent: a 70B model in BF16 fits with 50 GB to spare.
$1,590/ay · $450/hafta · teknik özellikler ve stok
Her kartın stokta olduğu yerler
Kısa çizgi, kartın o bölgede bekleme listesinde olduğu anlamına gelir. Fiyat üç bölgede de aynıdır; bu yüzden gecikme süresi ve stok durumuna göre seçim yapın, başka hiçbir şeye göre değil.
| Bölge | H100 SXM | MI300X |
|---|---|---|
| DFW-1Dallas, TX | 32 | 8 |
| IAD-1Ashburn, VA | 19 | — |
| PDX-1Hillsboro, OR | 12 | — |
H100 SXM ile MI300X karşılaştırması
H100 SXM, MI300X'den daha mı iyi?
H100 SXM ile MI300X arasındaki fiyat farkı nedir?
H100 SXM, MI300X'ye kıyasla ne kadar VRAM'e sahiptir?
Her iki kartı da KYC olmadan kiralayabilir miyim?
Hangisi bugün mevcut?
Bir makineye birden fazla H100 SXM kartını tek bir makineye takabilir miyim?
Haftalık veya aylık olarak ikisinden birini kiralayın
Kimlik kontrolü yok, e-posta adresi yok, kart yok. Makineyi yapılandırın, oluşturduğu tek siparişi yedi coinden herhangi biriyle ödeyin; yaklaşık doksan saniye içinde çalışmaya başlar.