H200 SXM と H100 SXM の違いは何ですか?
すべての数値は、ダッシュボードが価格を計算するのと同じカタログから取得した、実際に貸し出す際のものです。GPU時間あたりの料金は 月額定額を720時間で割ったものであり、時間単位で請求されることはありません。
| H200 SXM | H100 SXM | |
|---|---|---|
| メモリ | 141 GB HBM3e | 80 GB HBM3 |
| メモリ帯域幅 | 4.8 TB/s | 3.35 TB/s |
| アーキテクチャ | Hopper (2024) | Hopper (2022) |
| コア | 16,896 CUDA · 528 Tensor | 16,896 CUDA · 528 Tensor |
| FP8 | 3,958 TFLOPS (sparse) | 3,958 TFLOPS (sparse) |
| FP16 | 1,979 TFLOPS (sparse) | 1,979 TFLOPS (sparse) |
| インターコネクト | NVLink · 900 GB/s | NVLink · 900 GB/s |
| 基板電力 | 700 W | 700 W |
| ホストvCPU | 24 | 20 |
| ホストRAM | 251 GB | 251 GB |
| ローカルNVMe | 2 TB | 2 TB |
| 週額料金 | $640 | $475 |
| 月額料金 | $2,290 | $1,690 |
| GPU時間あたり | $3.18 | $2.35 |
| VRAM 1GBあたりの価格 | $16.24 | $21.12 |
| 在庫あり | 19 | 63 |
どちらを借りるべきですか?
H200 SXMは61 GB多くのメモリを搭載しており、それがモデルをロードできるかどうかを決める唯一の要素です。 帯域幅は3.35 TB/sに対して4.8 TB/sであり、単一ストリームのトークン生成では、速度を決めるのは仕様表のFLOPS値ではなく帯域幅です。 H200 SXMは月額で36%高く、$1,690に対して$2,290、GPU時間あたりでは$2.35に対して$3.18です。
このようなときにH200 SXMを借りる
Serving 70B–120B models without sharding. A 70B model in BF16 fits on two cards with room for a batch; in FP8 it fits on one.
$2,290/月 · $640/週 · 仕様と在庫
このようなときにH100 SXMを借りる
Multi-week training and fine-tuning runs. A 70B model in FP8 fits on one card; in BF16 it needs two.
$1,690/月 · $475/週 · 仕様と在庫
各カードの在庫がある場所
ダッシュは、その地域ではカードがキャンセル待ちであることを意味します。価格は3地域すべてで同一なので、レイテンシと 在庫だけで選んでください。他の要素はありません。
| リージョン | H200 SXM | H100 SXM |
|---|---|---|
| DFW-1Dallas, TX | 11 | 32 |
| IAD-1Ashburn, VA | 8 | 19 |
| PDX-1Hillsboro, OR | — | 12 |
H200 SXM 対 H100 SXM
H200 SXMはH100 SXMより優れていますか?
H200 SXMとH100 SXMの価格差はいくらですか?
H200 SXM の VRAM は H100 SXM と比べてどのくらいですか?
どちらのカードもKYCなしで借りられますか?
今日利用可能なのはどちらですか?
1台のマシンにH200 SXMを複数枚搭載できますか?
週単位または月単位でどちらかを借りる
本人確認不要、メールアドレス不要、カード不要。マシンを構成し、生成される1件の注文を7種類の暗号通貨のいずれかで支払えば、約90秒で稼働します。