H200 disponible en DFW-1 e IAD-1
Hardware
Mismo factor de forma HGX que nuestros nodos H100, así que el aprovisionamiento fue sin incidentes. 141 GB por tarjeta significa que un modelo de 70B en BF16 cabe en dos tarjetas con espacio para un batch. Precio de $2,290/mo por tarjeta, que sigue siendo la cifra en la página de alquiler de H200.
Rent the hardware this post is about
Dedicated GPUs by the week or the month, paid in crypto, in three US datacenters.