H200 SXM vs A100 SXM: özellikler, fiyat ve hangisini kiralamalı
GPU Rent Hub her iki kartı da üç ABD veri merkezinde adanmış çıplak donanım olarak kiralar, ödenen Bitcoin, Ethereum, USDT, USDC, Monero, Solana veya Litecoin ile kimlik doğrulaması olmadan. Bu H200 SXM ayda $2,290 ve A100 SXM ayda $990. Her şey aşağıda ölçülmüştür, tartışmaya açık değildir.
H200 SXM ile A100 SXM arasındaki fark nedir?
Her rakam, kiraladığımız değerdir ve kontrol panelinin fiyatlandırdığı aynı katalogdan alınmıştır. GPU başına saat ücreti, aylık sabit fiyatın 720 saate bölünmesiyle bulunur; asla saatlik faturalandırılmazsınız.
| H200 SXM | A100 SXM | |
|---|---|---|
| Bellek | 141 GB HBM3e | 80 GB HBM2e |
| Bellek bant genişliği | 4.8 TB/s | 2.04 TB/s |
| Mimari | Hopper (2024) | Ampere (2020) |
| Çekirdekler | 16,896 CUDA · 528 Tensor | 6,912 CUDA · 432 Tensor |
| FP8 | 3,958 TFLOPS (sparse) | not supported |
| FP16 | 1,979 TFLOPS (sparse) | 624 TFLOPS (sparse) |
| Ara bağlantı | NVLink · 900 GB/s | NVLink · 600 GB/s |
| Kart gücü | 700 W | 400 W |
| Ana vCPU | 24 | 16 |
| Ana RAM | 251 GB | 125 GB |
| Yerel NVMe | 2 TB | 1 TB |
| Haftalık fiyat | $640 | $280 |
| Aylık fiyat | $2,290 | $990 |
| GPU-saat başına | $3.18 | $1.38 |
| GB VRAM başına fiyat | $16.24 | $12.38 |
| Şu an stokta | 19 | 78 |
Hangisini kiralamalısınız?
H200 SXM 61 GB daha fazla bellek taşır, bu da bir modelin yüklenip yüklenmeyeceğini belirleyen tek şeydir. H200 SXM FP8'i destekler, A100 SXM desteklemez; bu, kuantize edilmiş bir modelin ihtiyaç duyduğu belleği yaklaşık yarıya indirir ve ikisi arasındaki en büyük pratik farktır. Bant genişliği 4.8 TB/s karşısında 2.04 TB/s; tek akışlı token üretimi için hızı belirleyen, teknik özellik tablosundaki FLOPS değeri değil bant genişliğidir. H200 SXM ayda %131 daha pahalıdır; $2,290 karşısında $990 veya GPU-saat başına $3.18 karşısında $1.38.
Modelinizin gerçekte ne kadar VRAM'e ihtiyaç duyduğunu hesaplayın
H200 SXM ne zaman kiralanır
Serving 70B–120B models without sharding. A 70B model in BF16 fits on two cards with room for a batch; in FP8 it fits on one.
$2,290/ay · $640/hafta · teknik özellikler ve stok
A100 SXM ne zaman kiralanır
The cheapest 80 GB card with NVLink. 80 GB of HBM2e under $1,000 a month, the value pick for multi-week runs.
$990/ay · $280/hafta · teknik özellikler ve stok
Her kartın stokta olduğu yerler
Kısa çizgi, kartın o bölgede bekleme listesinde olduğu anlamına gelir. Fiyat üç bölgede de aynıdır; bu yüzden gecikme süresi ve stok durumuna göre seçim yapın, başka hiçbir şeye göre değil.
| Bölge | H200 SXM | A100 SXM |
|---|---|---|
| DFW-1Dallas, TX | 11 | 40 |
| IAD-1Ashburn, VA | 8 | 22 |
| PDX-1Hillsboro, OR | — | 16 |
H200 SXM ile A100 SXM karşılaştırması
H200 SXM, A100 SXM'den daha mı iyi?
H200 SXM ile A100 SXM arasındaki fiyat farkı nedir?
H200 SXM, A100 SXM'ye kıyasla ne kadar VRAM'e sahiptir?
Her iki kartı da KYC olmadan kiralayabilir miyim?
Hangisi bugün mevcut?
Bir makineye birden fazla H200 SXM kartını tek bir makineye takabilir miyim?
Haftalık veya aylık olarak ikisinden birini kiralayın
Kimlik kontrolü yok, e-posta adresi yok, kart yok. Makineyi yapılandırın, oluşturduğu tek siparişi yedi coinden herhangi biriyle ödeyin; yaklaşık doksan saniye içinde çalışmaya başlar.