L40S と A40 の違いは何ですか？
すべての数値は、ダッシュボードが価格を計算するのと同じカタログから取得した、実際に貸し出す際のものです。GPU時間あたりの料金は 月額定額を720時間で割ったものであり、時間単位で請求されることはありません。
| L40S | A40 | |
|---|---|---|
| メモリ | 48 GB GDDR6 ECC | 48 GB GDDR6 ECC |
| メモリ帯域幅 | 864 GB/s | 696 GB/s |
| アーキテクチャ | Ada Lovelace (2023) | Ampere (2020) |
| コア | 18,176 CUDA · 568 Tensor · 142 RT | 10,752 CUDA · 336 Tensor · 84 RT |
| FP8 | 1,466 TFLOPS (sparse) | not supported |
| FP16 | 733 TFLOPS (sparse) | 299 TFLOPS (sparse) |
| インターコネクト | PCIe Gen4 peer-to-peer | NVLink bridge · 112 GB/s (pairs) |
| 基板電力 | 350 W | 300 W |
| ホストvCPU | 16 | 8 |
| ホストRAM | 94 GB | 47 GB |
| ローカルNVMe | 500 GB | 500 GB |
| 週額料金 | $148 | $68 |
| 月額料金 | $520 | $240 |
| GPU時間あたり | $0.72 | $0.33 |
| VRAM 1GBあたりの価格 | $10.83 | $5.00 |
| 在庫あり | 74 | 37 |
どちらを借りるべきですか？
両方のカードは48 GBを搭載しており、容量はこの比較の決め手ではありません。 L40SはFP8に対応しており、A40は対応していません。これは量子化モデルが必要とするメモリをおよそ半分にし、両者の実用上の最大の違いです。 帯域幅は696 GB/sに対して864 GB/sであり、単一ストリームのトークン生成では、速度を決めるのは仕様表のFLOPS値ではなく帯域幅です。 L40Sは月額で117%高く、$240に対して$520、GPU時間あたりでは$0.33に対して$0.72です。
このようなときにL40Sを借りる
Serving 7B–34B models in production. 48 GB with FP8 support and RT cores, the best inference card per dollar in our fleet.
$520/月 · $148/週 · 仕様と在庫
このようなときにA40を借りる
Passive-cooled 48 GB for dense racks. 48 GB for $240 a month: $5 per gigabyte of VRAM, the cheapest ratio we offer.
$240/月 · $68/週 · 仕様と在庫
各カードの在庫がある場所
ダッシュは、その地域ではカードがキャンセル待ちであることを意味します。価格は3地域すべてで同一なので、レイテンシと 在庫だけで選んでください。他の要素はありません。
| リージョン | L40S | A40 |
|---|---|---|
| DFW-1Dallas, TX | 26 | 22 |
| IAD-1Ashburn, VA | 18 | 15 |
| PDX-1Hillsboro, OR | 30 | — |
L40S 対 A40
L40SはA40より優れていますか？
L40SとA40の価格差はいくらですか？
L40S の VRAM は A40 と比べてどのくらいですか？
どちらのカードもKYCなしで借りられますか？
今日利用可能なのはどちらですか？
1台のマシンにL40Sを複数枚搭載できますか？
週単位または月単位でどちらかを借りる
本人確認不要、メールアドレス不要、カード不要。マシンを構成し、生成される1件の注文を7種類の暗号通貨のいずれかで支払えば、約90秒で稼働します。