H200 beschikbaar in DFW-1 en IAD-1
Hardware
Dezelfde HGX-vormfactor als onze H100-nodes, dus het provisioneren verliep zonder bijzonderheden. 141 GB per kaart betekent dat een 70B-model in BF16 op twee kaarten past met ruimte voor een batch. Geprijsd op $2,290/maand per kaart; dat is nog steeds het bedrag op de H200-verhuurpagina.
Rent the hardware this post is about
Dedicated GPUs by the week or the month, paid in crypto, in three US datacenters.