H200 dostępne w DFW-1 i IAD-1
Sprzęt
Ten sam format HGX co nasze węzły H100, więc aprowizowanie przebiegło bez niespodzianek. 141 GB na kartę oznacza, że model 70B w BF16 mieści się na dwóch kartach z miejscem na batch. Cena to $2,290/mo za kartę i nadal jest to kwota na stronie wynajmu H200.
Rent the hardware this post is about
Dedicated GPUs by the week or the month, paid in crypto, in three US datacenters.