H100 SXM と MI300X の違いは何ですか？
すべての数値は、ダッシュボードが価格を計算するのと同じカタログから取得した、実際に貸し出す際のものです。GPU時間あたりの料金は 月額定額を720時間で割ったものであり、時間単位で請求されることはありません。
| H100 SXM | MI300X | |
|---|---|---|
| メモリ | 80 GB HBM3 | 192 GB HBM3 |
| メモリ帯域幅 | 3.35 TB/s | 5.3 TB/s |
| アーキテクチャ | Hopper (2022) | CDNA 3 (2023) |
| コア | 16,896 CUDA · 528 Tensor | 304 compute units · 19,456 stream processors |
| FP8 | 3,958 TFLOPS (sparse) | 2,615 TFLOPS |
| FP16 | 1,979 TFLOPS (sparse) | 1,307 TFLOPS |
| インターコネクト | NVLink · 900 GB/s | Infinity Fabric · 896 GB/s |
| 基板電力 | 700 W | 750 W |
| ホストvCPU | 20 | 24 |
| ホストRAM | 251 GB | 283 GB |
| ローカルNVMe | 2 TB | 2 TB |
| 週額料金 | $475 | $450 |
| 月額料金 | $1,690 | $1,590 |
| GPU時間あたり | $2.35 | $2.21 |
| VRAM 1GBあたりの価格 | $21.12 | $8.28 |
| 在庫あり | 63 | 8 |
どちらを借りるべきですか？
より安価なMI300Xは112 GB多くのメモリを搭載しており、容量だけを見ればより優れたカードです。 帯域幅は5.3 TB/sに対して3.35 TB/sであり、単一ストリームのトークン生成では、速度を決めるのは仕様表のFLOPS値ではなく帯域幅です。 NVLinkを搭載しているのはH100 SXMのみであり、マルチカードのトレーニングはこのカードではスケールしますが、MI300Xでは困難です。 H100 SXMは月額で6%高く、$1,590に対して$1,690、GPU時間あたりでは$2.21に対して$2.35です。
このようなときにH100 SXMを借りる
Multi-week training and fine-tuning runs. A 70B model in FP8 fits on one card; in BF16 it needs two.
$1,690/月 · $475/週 · 仕様と在庫
このようなときにMI300Xを借りる
Serving very large models on the fewest cards. The most HBM per card we rent: a 70B model in BF16 fits with 50 GB to spare.
$1,590/月 · $450/週 · 仕様と在庫
各カードの在庫がある場所
ダッシュは、その地域ではカードがキャンセル待ちであることを意味します。価格は3地域すべてで同一なので、レイテンシと 在庫だけで選んでください。他の要素はありません。
| リージョン | H100 SXM | MI300X |
|---|---|---|
| DFW-1Dallas, TX | 32 | 8 |
| IAD-1Ashburn, VA | 19 | — |
| PDX-1Hillsboro, OR | 12 | — |
H100 SXM 対 MI300X
H100 SXMはMI300Xより優れていますか？
H100 SXMとMI300Xの価格差はいくらですか？
H100 SXM の VRAM は MI300X と比べてどのくらいですか？
どちらのカードもKYCなしで借りられますか？
今日利用可能なのはどちらですか？
1台のマシンにH100 SXMを複数枚搭載できますか？
週単位または月単位でどちらかを借りる
本人確認不要、メールアドレス不要、カード不要。マシンを構成し、生成される1件の注文を7種類の暗号通貨のいずれかで支払えば、約90秒で稼働します。