H100 PCIe と A100 SXM の違いは何ですか?
すべての数値は、ダッシュボードが価格を計算するのと同じカタログから取得した、実際に貸し出す際のものです。GPU時間あたりの料金は 月額定額を720時間で割ったものであり、時間単位で請求されることはありません。
| H100 PCIe | A100 SXM | |
|---|---|---|
| メモリ | 80 GB HBM2e | 80 GB HBM2e |
| メモリ帯域幅 | 2 TB/s | 2.04 TB/s |
| アーキテクチャ | Hopper (2022) | Ampere (2020) |
| コア | 14,592 CUDA · 456 Tensor | 6,912 CUDA · 432 Tensor |
| FP8 | 3,026 TFLOPS (sparse) | not supported |
| FP16 | 1,513 TFLOPS (sparse) | 624 TFLOPS (sparse) |
| インターコネクト | PCIe Gen5 · optional NVLink bridge 600 GB/s | NVLink · 600 GB/s |
| 基板電力 | 350 W | 400 W |
| ホストvCPU | 16 | 16 |
| ホストRAM | 188 GB | 125 GB |
| ローカルNVMe | 1 TB | 1 TB |
| 週額料金 | $420 | $280 |
| 月額料金 | $1,490 | $990 |
| GPU時間あたり | $2.07 | $1.38 |
| VRAM 1GBあたりの価格 | $18.62 | $12.38 |
| 在庫あり | 27 | 78 |
どちらを借りるべきですか?
両方のカードは80 GBを搭載しており、容量はこの比較の決め手ではありません。 H100 PCIeはFP8に対応しており、A100 SXMは対応していません。これは量子化モデルが必要とするメモリをおよそ半分にし、両者の実用上の最大の違いです。 帯域幅は2.04 TB/sに対して2 TB/sであり、単一ストリームのトークン生成では、速度を決めるのは仕様表のFLOPS値ではなく帯域幅です。 H100 PCIeは月額で51%高く、$990に対して$1,490、GPU時間あたりでは$1.38に対して$2.07です。
このようなときにH100 PCIeを借りる
Single-card inference on 70B models in FP8. Same 80 GB as the SXM card, at about 60% of the interconnect bandwidth and half the power.
$1,490/月 · $420/週 · 仕様と在庫
このようなときにA100 SXMを借りる
The cheapest 80 GB card with NVLink. 80 GB of HBM2e under $1,000 a month, the value pick for multi-week runs.
$990/月 · $280/週 · 仕様と在庫
各カードの在庫がある場所
ダッシュは、その地域ではカードがキャンセル待ちであることを意味します。価格は3地域すべてで同一なので、レイテンシと 在庫だけで選んでください。他の要素はありません。
| リージョン | H100 PCIe | A100 SXM |
|---|---|---|
| DFW-1Dallas, TX | 14 | 40 |
| IAD-1Ashburn, VA | 9 | 22 |
| PDX-1Hillsboro, OR | 4 | 16 |
H100 PCIe 対 A100 SXM
H100 PCIeはA100 SXMより優れていますか?
H100 PCIeとA100 SXMの価格差はいくらですか?
H100 PCIe の VRAM は A100 SXM と比べてどのくらいですか?
どちらのカードもKYCなしで借りられますか?
今日利用可能なのはどちらですか?
1台のマシンにH100 PCIeを複数枚搭載できますか?
週単位または月単位でどちらかを借りる
本人確認不要、メールアドレス不要、カード不要。マシンを構成し、生成される1件の注文を7種類の暗号通貨のいずれかで支払えば、約90秒で稼働します。