A100 SXM vs L40S: özellikler, fiyat ve hangisini kiralamalı
GPU Rent Hub her iki kartı da üç ABD veri merkezinde adanmış çıplak donanım olarak kiralar, ödenen Bitcoin, Ethereum, USDT, USDC, Monero, Solana veya Litecoin ile kimlik doğrulaması olmadan. Bu A100 SXM ayda $990 ve L40S ayda $520. Her şey aşağıda ölçülmüştür, tartışmaya açık değildir.
A100 SXM ile L40S arasındaki fark nedir?
Her rakam, kiraladığımız değerdir ve kontrol panelinin fiyatlandırdığı aynı katalogdan alınmıştır. GPU başına saat ücreti, aylık sabit fiyatın 720 saate bölünmesiyle bulunur; asla saatlik faturalandırılmazsınız.
| A100 SXM | L40S | |
|---|---|---|
| Bellek | 80 GB HBM2e | 48 GB GDDR6 ECC |
| Bellek bant genişliği | 2.04 TB/s | 864 GB/s |
| Mimari | Ampere (2020) | Ada Lovelace (2023) |
| Çekirdekler | 6,912 CUDA · 432 Tensor | 18,176 CUDA · 568 Tensor · 142 RT |
| FP8 | not supported | 1,466 TFLOPS (sparse) |
| FP16 | 624 TFLOPS (sparse) | 733 TFLOPS (sparse) |
| Ara bağlantı | NVLink · 600 GB/s | PCIe Gen4 peer-to-peer |
| Kart gücü | 400 W | 350 W |
| Ana vCPU | 16 | 16 |
| Ana RAM | 125 GB | 94 GB |
| Yerel NVMe | 1 TB | 500 GB |
| Haftalık fiyat | $280 | $148 |
| Aylık fiyat | $990 | $520 |
| GPU-saat başına | $1.38 | $0.72 |
| GB VRAM başına fiyat | $12.38 | $10.83 |
| Şu an stokta | 78 | 74 |
Hangisini kiralamalısınız?
A100 SXM 32 GB daha fazla bellek taşır, bu da bir modelin yüklenip yüklenmeyeceğini belirleyen tek şeydir. L40S FP8'i destekler, A100 SXM desteklemez; bu, daha ucuz kart için alışılmadık bir durumdur ve onu çıkarım için daha iyi bir satın alma yapar. Bant genişliği 2.04 TB/s karşısında 864 GB/s; tek akışlı token üretimi için hızı belirleyen, teknik özellik tablosundaki FLOPS değeri değil bant genişliğidir. Yalnızca A100 SXM NVLink'e sahiptir; bu nedenle çok kartlı eğitim onda iyi ölçeklenir, L40S üzerinde ise zorlanır. A100 SXM ayda %90 daha pahalıdır; $990 karşısında $520 veya GPU-saat başına $1.38 karşısında $0.72.
Modelinizin gerçekte ne kadar VRAM'e ihtiyaç duyduğunu hesaplayın
A100 SXM ne zaman kiralanır
The cheapest 80 GB card with NVLink. 80 GB of HBM2e under $1,000 a month, the value pick for multi-week runs.
$990/ay · $280/hafta · teknik özellikler ve stok
L40S ne zaman kiralanır
Serving 7B–34B models in production. 48 GB with FP8 support and RT cores, the best inference card per dollar in our fleet.
$520/ay · $148/hafta · teknik özellikler ve stok
Her kartın stokta olduğu yerler
Kısa çizgi, kartın o bölgede bekleme listesinde olduğu anlamına gelir. Fiyat üç bölgede de aynıdır; bu yüzden gecikme süresi ve stok durumuna göre seçim yapın, başka hiçbir şeye göre değil.
| Bölge | A100 SXM | L40S |
|---|---|---|
| DFW-1Dallas, TX | 40 | 26 |
| IAD-1Ashburn, VA | 22 | 18 |
| PDX-1Hillsboro, OR | 16 | 30 |
A100 SXM ile L40S karşılaştırması
A100 SXM, L40S'den daha mı iyi?
A100 SXM ile L40S arasındaki fiyat farkı nedir?
A100 SXM, L40S'ye kıyasla ne kadar VRAM'e sahiptir?
Her iki kartı da KYC olmadan kiralayabilir miyim?
Hangisi bugün mevcut?
Bir makineye birden fazla A100 SXM kartını tek bir makineye takabilir miyim?
Haftalık veya aylık olarak ikisinden birini kiralayın
Kimlik kontrolü yok, e-posta adresi yok, kart yok. Makineyi yapılandırın, oluşturduğu tek siparişi yedi coinden herhangi biriyle ödeyin; yaklaşık doksan saniye içinde çalışmaya başlar.