H200 verfügbar in DFW-1 und IAD-1
Hardware
Gleicher HGX-Formfaktor wie bei unseren H100-Knoten, daher verlief das Provisionieren unspektakulär. 141 GB pro Karte bedeuten, dass ein 70B-Modell in BF16 auf zwei Karten passt, mit Platz für einen Batch. Preis: $2,290/mo pro Karte, was immer noch der Zahl auf der H200-Mietseite entspricht.
Rent the hardware this post is about
Dedicated GPUs by the week or the month, paid in crypto, in three US datacenters.