H100 PCIe vs A100 SXM: özellikler, fiyat ve hangisini kiralamalı
GPU Rent Hub her iki kartı da üç ABD veri merkezinde adanmış çıplak donanım olarak kiralar, ödenen Bitcoin, Ethereum, USDT, USDC, Monero, Solana veya Litecoin ile kimlik doğrulaması olmadan. Bu H100 PCIe ayda $1,490 ve A100 SXM ayda $990. Her şey aşağıda ölçülmüştür, tartışmaya açık değildir.
H100 PCIe ile A100 SXM arasındaki fark nedir?
Her rakam, kiraladığımız değerdir ve kontrol panelinin fiyatlandırdığı aynı katalogdan alınmıştır. GPU başına saat ücreti, aylık sabit fiyatın 720 saate bölünmesiyle bulunur; asla saatlik faturalandırılmazsınız.
| H100 PCIe | A100 SXM | |
|---|---|---|
| Bellek | 80 GB HBM2e | 80 GB HBM2e |
| Bellek bant genişliği | 2 TB/s | 2.04 TB/s |
| Mimari | Hopper (2022) | Ampere (2020) |
| Çekirdekler | 14,592 CUDA · 456 Tensor | 6,912 CUDA · 432 Tensor |
| FP8 | 3,026 TFLOPS (sparse) | not supported |
| FP16 | 1,513 TFLOPS (sparse) | 624 TFLOPS (sparse) |
| Ara bağlantı | PCIe Gen5 · optional NVLink bridge 600 GB/s | NVLink · 600 GB/s |
| Kart gücü | 350 W | 400 W |
| Ana vCPU | 16 | 16 |
| Ana RAM | 188 GB | 125 GB |
| Yerel NVMe | 1 TB | 1 TB |
| Haftalık fiyat | $420 | $280 |
| Aylık fiyat | $1,490 | $990 |
| GPU-saat başına | $2.07 | $1.38 |
| GB VRAM başına fiyat | $18.62 | $12.38 |
| Şu an stokta | 27 | 78 |
Hangisini kiralamalısınız?
Her iki kart da 80 GB bellek taşır, bu yüzden bu seçimde kapasite belirleyici değildir. H100 PCIe FP8'i destekler, A100 SXM desteklemez; bu, kuantize edilmiş bir modelin ihtiyaç duyduğu belleği yaklaşık yarıya indirir ve ikisi arasındaki en büyük pratik farktır. Bant genişliği 2 TB/s karşısında 2.04 TB/s; tek akışlı token üretimi için hızı belirleyen, teknik özellik tablosundaki FLOPS değeri değil bant genişliğidir. H100 PCIe ayda %51 daha pahalıdır; $1,490 karşısında $990 veya GPU-saat başına $2.07 karşısında $1.38.
Modelinizin gerçekte ne kadar VRAM'e ihtiyaç duyduğunu hesaplayın
H100 PCIe ne zaman kiralanır
Single-card inference on 70B models in FP8. Same 80 GB as the SXM card, at about 60% of the interconnect bandwidth and half the power.
$1,490/ay · $420/hafta · teknik özellikler ve stok
A100 SXM ne zaman kiralanır
The cheapest 80 GB card with NVLink. 80 GB of HBM2e under $1,000 a month, the value pick for multi-week runs.
$990/ay · $280/hafta · teknik özellikler ve stok
Her kartın stokta olduğu yerler
Kısa çizgi, kartın o bölgede bekleme listesinde olduğu anlamına gelir. Fiyat üç bölgede de aynıdır; bu yüzden gecikme süresi ve stok durumuna göre seçim yapın, başka hiçbir şeye göre değil.
| Bölge | H100 PCIe | A100 SXM |
|---|---|---|
| DFW-1Dallas, TX | 14 | 40 |
| IAD-1Ashburn, VA | 9 | 22 |
| PDX-1Hillsboro, OR | 4 | 16 |
H100 PCIe ile A100 SXM karşılaştırması
H100 PCIe, A100 SXM'den daha mı iyi?
H100 PCIe ile A100 SXM arasındaki fiyat farkı nedir?
H100 PCIe, A100 SXM'ye kıyasla ne kadar VRAM'e sahiptir?
Her iki kartı da KYC olmadan kiralayabilir miyim?
Hangisi bugün mevcut?
Bir makineye birden fazla H100 PCIe kartını tek bir makineye takabilir miyim?
Haftalık veya aylık olarak ikisinden birini kiralayın
Kimlik kontrolü yok, e-posta adresi yok, kart yok. Makineyi yapılandırın, oluşturduğu tek siparişi yedi coinden herhangi biriyle ödeyin; yaklaşık doksan saniye içinde çalışmaya başlar.