H200, DFW-1 ve IAD-1'de mevcut
Donanım
H100 düğümlerimizle aynı HGX form faktörü, bu yüzden sağlama olaysızdı. Kart başına 141 GB, BF16'daki bir 70B modelin bir yığın için yer kalacak şekilde iki karta sığması anlamına gelir. Fiyat kart başına $2,290/mo; bu rakam hâlâ H200 kiralama sayfasındaki rakamdır.
Rent the hardware this post is about
Dedicated GPUs by the week or the month, paid in crypto, in three US datacenters.