GPU Rent Hubは、ハードウェアの入荷、インシデント、ダッシュボードのリリースをすべてこのページに記録しています。2021年3月にDFW-1へ最初の40台のRTX 3090が到着してから、ケージ4のB200ノードに至るまでの13件の投稿があります。ハードウェアの入荷、発生した障害、ダッシュボードの変更点。作業をした本人が書いています。ニュースレターはありません。代わりにRSSフィードがあります。
HGX B200の第2弾は8月19日に到着し、1週間のバーンインを経て、今朝ウェイトリストを解消しました。8基の8-wayノードが稼働中で、IAD-1向けにさらに2ラックを11月目標で発注しています。制約は供給ではなく電力です。B200ノードは壁面で約10.2 kWを消費するため、ケージ4に415 Vのバスウェイを増設する必要がありました。
シングルGPUのB200インスタンスは提供できません。パーツが8-wayベースボード上にしか存在しないためです。そのため最小単位は2×（NVLinkで分割したハーフノード）で月額$7,391です。これは2枚を$3,890で計算し、2GPU割引の5%を適用した価格です。リージョン別の在庫はB200レンタルページに掲載しています。
すべてのインスタンスのNVMeはLUKS2ボリュームで、プロビジョニング時に生成され、そのインスタンスIDに封印された鍵がホストTPMに保持されています。インスタンスを解放すると、TPMに鍵の破棄を要求します。その時点でドライブの内容は鍵がどこにも存在しない暗号文になります。その後、名前空間にblkdiscardを実行し、30秒の検証パスで2,000個のランダムなLBAをサンプリングしてゼロとして読み取れることを確認します。それが済んで初めて、スロットは在庫に戻ります。これにより解放に約90秒追加されます。その価値はあると考えています。
退役したカードを購入したいという問い合わせが続いていましたが、私たちには手順がなかったためお断りしていました。今は手順があります。新品およびフリート退役カード、当社ケージでのコロケーション、買取レートを掲載したハードウェアページです。コロケーションのカードはレンタルと同じホストフリートとダッシュボードを使用します。「コロケーションプロダクト」という別のものはありません。カードはお客様の所有物で、月額請求は電力とスペースのみになります。カードごとの料金階層はGPUコロケーションページにあります。
インスタンスを週単位から月単位に切り替える（または月単位をプリペイド割引で3か月/6か月延長する）際に、マシンへ手を加える必要がなくなりました。さらに、別リージョンへのスナップショット復元、再生成可能なTOTPリカバリーコード、更新失敗時のAPIウェブフック、ダッシュボードのウクライナ語およびトルコ語翻訳が追加されました。
1ラック、4ノード。すべてウェイトリストに事前販売済みです。興味深い点: バーンイン用に実施しているFP8トレーニングベンチマークでH100と比較した壁面効率は、ワットあたり約2.1倍です。あまり面白くない点: 必要だったバスウェイの増設です。
DFW-1に、H200ではない価格で192 GBのHBMを求める声に応える8-way MI300Xプラットフォームを1基導入しました。ROCm 6.4テンプレートが含まれます。さらに、最初の240枚のRTX 5090を全3リージョンに分散配備しました。搭載するのはブロワーモデルのみです。575 Wのトリプルファン小売カードはラックに載せるものではないからです。
H100ノードと同じHGXフォームファクタなので、プロビジョニングは何事もなく済みました。カードあたり141 GBということは、BF16の70Bモデルがバッチ用の余裕を残して2枚のカードに収まることを意味します。価格はカードあたり月額$2,290で、今もH200レンタルページの数字と同じです。
3番目のリージョンです。水力発電の施設で、気候は涼しく、西海岸とアジア太平洋へのレイテンシも良好です。L40S、A100、4090の在庫で開設し、H100ノードは第4四半期に続きます。
APIを書き直し、その後ダッシュボードが公開APIのみを使用するように書き直しました。ダッシュボードで可能なことは、curlでも可能です。v1は12か月のサンセット期間付きで非推奨になりました。
2023年初頭は割り当ての確保が難しい時期でした。DFW-1向けに50枚のPCIeカードを確保し、SXMノードは10か月後に導入しました。その最初の50枚は今もすべて稼働しています。
IAD-1は300基のGPUで開設します。主にA6000とA40で、ダラスから移設した3090もあります。クロスコネクトの影響で2日遅れました。正直な経緯はステータスページをご覧ください。
最初の年に最も要望が多かった機能です。XMRの入金は、他と同様に、最初の承認時点のスポットレートで10回の承認後に反映されます。当社は自社でノードを運用しており、今もそうです。Monero GPUホスティングをご覧ください。
1ラック、1ケージ、1スイッチ（これは後で学ぶことになります）、40台の3090、そして行が1つだけの価格ページ。月額契約にしたのは、自分たちがGPUを借りるならそうしたいからです。BitcoinとEthereumにしたのは、それが当時持っていたものだからです。KYCを設けていないのは、お客様がパスポートを渡したくないのと同じくらい、私たちもそれを預かりたくないからです。5年経った今も、KYC不要のGPUホスティングはまったく同じ仕組みで機能しています。