H100 SXM проти MI300X: характеристики, ціна та що орендувати
GPU Rent Hub здає обидві карти як виділений bare metal у трьох дата-центрах Сполучених Штатів, оплата в Bitcoin, Ethereum, USDT, USDC, Monero, Solana або Litecoin без верифікації особи. H100 SXM коштує $1,690 на місяць, а MI300X — $1,590 на місяць. Усе нижче виміряно, а не обговорюється.
Яка різниця між H100 SXM і MI300X?
Кожна цифра — це та, за якою ми здаємо, взята з того самого каталогу, з якого ціноутворює дашборд. Погодинна ставка за GPU — це фіксована місячна ціна, поділена на 720 годин; вам ніколи не виставляють рахунок погодинно.
| H100 SXM | MI300X | |
|---|---|---|
| Пам'ять | 80 GB HBM3 | 192 GB HBM3 |
| Пропускна здатність пам'яті | 3.35 TB/s | 5.3 TB/s |
| Архітектура | Hopper (2022) | CDNA 3 (2023) |
| Ядра | 16,896 CUDA · 528 Tensor | 304 compute units · 19,456 stream processors |
| FP8 | 3,958 TFLOPS (sparse) | 2,615 TFLOPS |
| FP16 | 1,979 TFLOPS (sparse) | 1,307 TFLOPS |
| Інтерконект | NVLink · 900 GB/s | Infinity Fabric · 896 GB/s |
| Потужність плати | 700 W | 750 W |
| vCPU хоста | 20 | 24 |
| Оперативна пам'ять хоста | 251 GB | 283 GB |
| Локальний NVMe | 2 TB | 2 TB |
| Щотижнева ціна | $475 | $450 |
| Щомісячна ціна | $1,690 | $1,590 |
| За GPU-годину | $2.35 | $2.21 |
| Ціна за ГБ відеопам'яті | $21.12 | $8.28 |
| Зараз у наявності | 63 | 8 |
Яку з них варто орендувати?
Дешевша MI300X має на 112 GB більше пам'яті, тож за самою місткістю це краща карта. Пропускна здатність становить 3.35 TB/s проти 5.3 TB/s, і для однопотокового генерування токенів швидкість визначає саме пропускна здатність, а не показник FLOPS у специфікації. Лише H100 SXM має NVLink, тому навчання на кількох картах масштабується на ній і пробуксовує на MI300X. H100 SXM коштує на 6% більше на місяць: $1,690 проти $1,590, або $2.35 проти $2.21 за GPU-годину.
Коли орендувати H100 SXM
Multi-week training and fine-tuning runs. A 70B model in FP8 fits on one card; in BF16 it needs two.
$1,690/міс · $475/тиж · характеристики та наявність
Коли орендувати MI300X
Serving very large models on the fewest cards. The most HBM per card we rent: a 70B model in BF16 fits with 50 GB to spare.
$1,590/міс · $450/тиж · характеристики та наявність
Де є в наявності кожна з карт
Прочерк означає, що карта в листі очікування в цьому регіоні. Ціна однакова в усіх трьох, тому вибирайте за затримкою та наявністю, і ні за чим іншим.
| Регіон | H100 SXM | MI300X |
|---|---|---|
| DFW-1Dallas, TX | 32 | 8 |
| IAD-1Ashburn, VA | 19 | — |
| PDX-1Hillsboro, OR | 12 | — |
H100 SXM проти MI300X
Чи H100 SXM кращий за MI300X?
Яка різниця в ціні між H100 SXM і MI300X?
Скільки VRAM має H100 SXM порівняно з MI300X?
Чи можу я орендувати будь-яку з карт без KYC?
Яка з них доступна сьогодні?
Чи можна встановити кілька H100 SXM в одну машину?
Орендуйте будь-яку з них потижнево або помісячно
Жодної перевірки особи, жодної електронної пошти, жодної картки. Налаштуйте машину, оплатіть одне сформоване замовлення будь-якою із семи монет, і вона запрацює приблизно за дев'яносто секунд.