H100 SXM vs MI300X: especificações, preço e qual alugar
GPU Rent Hub aluga ambas as placas como bare metal dedicado em três data centers nos Estados Unidos, pago em Bitcoin, Ethereum, USDT, USDC, Monero, Solana ou Litecoin sem verificação de identidade. A H100 SXM é $1,690 por mês e a MI300X é $1,590 por mês. Tudo abaixo é medido, não discutido.
Qual é a diferença entre a H100 SXM e a MI300X?
Cada número é aquele com o qual alugamos, retirado do mesmo catálogo que o painel usa para precificar. O preço por GPU-hora é o preço mensal fixo dividido por 720 horas; você nunca é cobrado por hora.
| H100 SXM | MI300X | |
|---|---|---|
| Memória | 80 GB HBM3 | 192 GB HBM3 |
| Largura de banda de memória | 3.35 TB/s | 5.3 TB/s |
| Arquitetura | Hopper (2022) | CDNA 3 (2023) |
| Núcleos | 16,896 CUDA · 528 Tensor | 304 compute units · 19,456 stream processors |
| FP8 | 3,958 TFLOPS (sparse) | 2,615 TFLOPS |
| FP16 | 1,979 TFLOPS (sparse) | 1,307 TFLOPS |
| Interconexão | NVLink · 900 GB/s | Infinity Fabric · 896 GB/s |
| Consumo da placa | 700 W | 750 W |
| vCPU do host | 20 | 24 |
| RAM do host | 251 GB | 283 GB |
| NVMe local | 2 TB | 2 TB |
| Preço semanal | $475 | $450 |
| Preço mensal | $1,690 | $1,590 |
| Por GPU-hora | $2.35 | $2.21 |
| Preço por GB de VRAM | $21.12 | $8.28 |
| Em estoque agora | 63 | 8 |
Qual você deve alugar?
A MI300X, mais barata, tem 112 GB a mais de memória; portanto, só em capacidade, é a melhor placa. A largura de banda é 3.35 TB/s contra 5.3 TB/s e, para geração de tokens em fluxo único, é a largura de banda que determina a velocidade, não o número de FLOPS da ficha técnica. Somente a H100 SXM possui NVLink, então o treinamento com várias placas escala nela e sofre na MI300X. A H100 SXM custa 6% a mais por mês, $1,690 contra $1,590, ou $2.35 contra $2.21 por GPU-hora.
Alugue a H100 SXM quando
Multi-week training and fine-tuning runs. A 70B model in FP8 fits on one card; in BF16 it needs two.
$1,690/mês · $475/semana · especificações e estoque
Alugue a MI300X quando
Serving very large models on the fewest cards. The most HBM per card we rent: a 70B model in BF16 fits with 50 GB to spare.
$1,590/mês · $450/semana · especificações e estoque
Onde cada placa está em estoque
Um traço significa que a placa está na lista de espera naquela região. O preço é idêntico nas três, então escolha com base na latência e no estoque, nada mais.
| Região | H100 SXM | MI300X |
|---|---|---|
| DFW-1Dallas, TX | 32 | 8 |
| IAD-1Ashburn, VA | 19 | — |
| PDX-1Hillsboro, OR | 12 | — |
H100 SXM contra MI300X
A H100 SXM é melhor que a MI300X?
Qual é a diferença de preço entre a H100 SXM e a MI300X?
Quanta VRAM a H100 SXM tem em comparação com a MI300X?
Posso alugar qualquer uma das placas sem KYC?
Qual está disponível hoje?
Posso colocar várias placas H100 SXM em uma única máquina?
Alugue qualquer uma delas por semana ou por mês
Sem verificação de identidade, sem endereço de e-mail, sem cartão. Configure a máquina, pague o único pedido gerado em qualquer uma das sete moedas e ela estará rodando em cerca de noventa segundos.