H200 доступны в DFW-1 и IAD-1
Оборудование
Тот же форм-фактор HGX, что и у наших узлов H100, так что развёртывание прошло без происшествий. 141 GB на карту означает, что модель 70B в BF16 помещается на двух картах с запасом под батч. Цена — $2,290/mo за карту, и это по-прежнему цифра на странице аренды H200.
Rent the hardware this post is about
Dedicated GPUs by the week or the month, paid in crypto, in three US datacenters.