A100 SXM と L40S の違いは何ですか？
すべての数値は、ダッシュボードが価格を計算するのと同じカタログから取得した、実際に貸し出す際のものです。GPU時間あたりの料金は 月額定額を720時間で割ったものであり、時間単位で請求されることはありません。
| A100 SXM | L40S | |
|---|---|---|
| メモリ | 80 GB HBM2e | 48 GB GDDR6 ECC |
| メモリ帯域幅 | 2.04 TB/s | 864 GB/s |
| アーキテクチャ | Ampere (2020) | Ada Lovelace (2023) |
| コア | 6,912 CUDA · 432 Tensor | 18,176 CUDA · 568 Tensor · 142 RT |
| FP8 | not supported | 1,466 TFLOPS (sparse) |
| FP16 | 624 TFLOPS (sparse) | 733 TFLOPS (sparse) |
| インターコネクト | NVLink · 600 GB/s | PCIe Gen4 peer-to-peer |
| 基板電力 | 400 W | 350 W |
| ホストvCPU | 16 | 16 |
| ホストRAM | 125 GB | 94 GB |
| ローカルNVMe | 1 TB | 500 GB |
| 週額料金 | $280 | $148 |
| 月額料金 | $990 | $520 |
| GPU時間あたり | $1.38 | $0.72 |
| VRAM 1GBあたりの価格 | $12.38 | $10.83 |
| 在庫あり | 78 | 74 |
どちらを借りるべきですか？
A100 SXMは32 GB多くのメモリを搭載しており、それがモデルをロードできるかどうかを決める唯一の要素です。 L40SはFP8に対応しており、A100 SXMは対応していません。これは安価なカードとしては珍しく、推論用途ではより良い選択肢です。 帯域幅は864 GB/sに対して2.04 TB/sであり、単一ストリームのトークン生成では、速度を決めるのは仕様表のFLOPS値ではなく帯域幅です。 NVLinkを搭載しているのはA100 SXMのみであり、マルチカードのトレーニングはこのカードではスケールしますが、L40Sでは困難です。 A100 SXMは月額で90%高く、$520に対して$990、GPU時間あたりでは$0.72に対して$1.38です。
このようなときにA100 SXMを借りる
The cheapest 80 GB card with NVLink. 80 GB of HBM2e under $1,000 a month, the value pick for multi-week runs.
$990/月 · $280/週 · 仕様と在庫
このようなときにL40Sを借りる
Serving 7B–34B models in production. 48 GB with FP8 support and RT cores, the best inference card per dollar in our fleet.
$520/月 · $148/週 · 仕様と在庫
各カードの在庫がある場所
ダッシュは、その地域ではカードがキャンセル待ちであることを意味します。価格は3地域すべてで同一なので、レイテンシと 在庫だけで選んでください。他の要素はありません。
| リージョン | A100 SXM | L40S |
|---|---|---|
| DFW-1Dallas, TX | 40 | 26 |
| IAD-1Ashburn, VA | 22 | 18 |
| PDX-1Hillsboro, OR | 16 | 30 |
A100 SXM 対 L40S
A100 SXMはL40Sより優れていますか？
A100 SXMとL40Sの価格差はいくらですか？
A100 SXM の VRAM は L40S と比べてどのくらいですか？
どちらのカードもKYCなしで借りられますか？
今日利用可能なのはどちらですか？
1台のマシンにA100 SXMを複数枚搭載できますか？
週単位または月単位でどちらかを借りる
本人確認不要、メールアドレス不要、カード不要。マシンを構成し、生成される1件の注文を7種類の暗号通貨のいずれかで支払えば、約90秒で稼働します。