日本語JA
enEnglishfrFrançaisdeDeutschesEspañolptPortuguêsitItalianonlNederlandsplPolskitrTürkçeruРусскийukУкраїнськаja日本語ko한국어zh中文arالعربية
ログイン GPUをデプロイ
GPU Rent Hubファインチューニング用GPU

検算できる算術でサイズを決める、ファインチューニング用GPUレンタル。

GPU Rent Hubは、ファインチューニング用の専有NVIDIAおよびAMD GPUを週単位または月単位で貸し出しており、7BモデルでQLoRAを実行できる24GBカードが月$190から、NVLink接続された8× H100 SXMノードが月$12,170まであり、Bitcoin、Ethereum、USDT、USDC、Monero、Solana、Litecoinで支払え、本人確認は不要です。

Updated 2026-09-01
112 GB7Bのフルファインチューニング、Adam、アクティベーション以前
10 GB同じモデルをQLoRAで実行した場合
900 GB/sH100 SXMとH200のNVLink
72 h未払い更新時の猶予期間
01 定義

ファインチューニングに実際どれだけのGPUメモリが必要か？

ここが多くの人が間違える部分であり、どのカードを借りるかを決める唯一の部分です。

ファインチューニングのメモリを1段落で。 Adamオプティマイザを使うフルファインチューニングは、パラメータあたり約16バイトかかります。BF16の重みに2、勾配に2、FP32のマスターコピーに4、Adamの2つのモーメント状態にそれぞれ4です。したがって7Bモデルは、アクティベーションを1つも保存する前におよそ112 GB必要で、これは24GBカードにも80GBカードにも収まりません。LoRAは基本重みを凍結して小さなアダプタ行列を学習するため、コストは凍結した基本モデルがパラメータあたり2バイト、それに数百メガバイトのアダプタとオプティマイザ状態を足した程度に下がり、7Bで約21 GBです。QLoRAは凍結した基本モデルを4ビット（パラメータあたり0.5バイト）に量子化し、同じアダプタを学習します。7Bで約10 GB、70Bで約51 GBです。

これら3つの数値と以下の表のすべての数値は、GPU VRAMガイドのもので、その前提は次のとおりです。勾配チェックポイントを有効、シーケンス長2,048、バッチ1、パラメータの約0.5%にあたるランク16のアダプタ、そしてランタイムのオーバーヘッド許容量はすでに含まれています。シーケンス長かバッチを増やせば、アクティベーションはその上に増えます。

16の由来

トレーニングループ内でモデルを1回だけ保存するものは何もありません。重み、同じ形状の勾配、FP32マスターコピー、パラメータごとのAdamの平均と分散。どのフレームワークもこれをなかったことにはできません。

LoRAが取り除くもの

アダプタ以外のすべてについて、勾配と2つのオプティマイザ状態が不要になります。凍結した基本モデルは引き続きメモリ上に置く必要があり、そのためBF16の7Bに対するLoRAでも、他の何を数える前から14GBになります。QLoRAはオプティマイザではなく、メモリ常駐を削減します。

02 サイジング

7B、13B、70BモデルをファインチューニングするにはどのGPUが必要か？

モデルと手法と、それを保持するカードを突き合わせます。VRAMはVRAMガイドの数値です。GPU時間あたりは、月額を720で割ったものです。

モデルと手法必要なVRAM収まるカードカードVRAM週額月額GPU時間あたり
7B、QLoRA4ビットベース、ランク1610 GBRTX A500024 GB$55$190/mo$0.26
13B、QLoRA4ビットベース14 GBRTX 309024 GB$65$230/mo$0.32
7B、LoRABF16ベースを常駐21 GBRTX 409024 GB$110$390/mo$0.54
34B、QLoRA4ビットベース28 GBA4048 GB$68$240/mo$0.33
13B、LoRABF16ベース33 GBL40S48 GB$148$520/mo$0.72
70B、QLoRA4ビット重み35 GB51 GBA100 SXM80 GB$280$990/mo$1.38
34B、LoRABF16ベース、1枚79 GBMI300X192 GB$450$1,590/mo$2.21
7B、フルファインチューニングAdam、パラメータあたり16バイト129 GB2× A100 SXMNVLink 600 GB/s、最も安いCUDA経路160 GB$532$1,881/mo$1.31
70B、LoRABF16ベース、1枚156 GB1× MI300Xシャーディング不要192 GB$450$1,590/mo$2.21
70B、フルファインチューニングノード全体でZeRO-31,288 GB8× MI300XInfinity Fabric 896 GB/s1,536 GB$3,240$11,450/mo$1.99
必要なVRAMは、そのモデルと手法についてGPU VRAMガイドが導出した数値で、シーケンス長2,048、バッチ1、勾配チェックポイント有効、ランタイムのオーバーヘッド許容量を含んだものです。2枚構成の価格には5%のマルチGPU割引が含まれ、8枚の数値はノード価格です。GPU時間あたりは、月額合計を720時間とカード数で割ったものです。MI300Xの2行はDFW-1ダラスのみで、CUDAではなくROCmで動作します。ここに載せたのは当社がそのジョブを実行するであろうカードです。VRAMガイドの表は単にそれを保持できる最安のカードを挙げているため、こちらの行がより高価なカードになることがあります。2つの行は意図的に変えてあり、どちらにも理由があります。7B LoRAの行では、同じ24GBでもガイドのRTX A5000ではなくRTX 4090を採用しています。帯域幅が768 GB/sに対して1,008 GB/sあり、各ステップが短くなるためです。7Bフルファインチューニングの行では、最安のCUDAおよびNVLink経路としてA100 SXMを2枚採用しています。192GBのMI300X 1枚は同じ129GBを月$1,590で保持できますがROCmです。仕様はGPUカタログにあります。

8行目を6行目と比べて読んでください。7Bのフルファインチューニングは、70BのQLoRAの約2倍の費用がかかります。ほとんどの人にとって、それは必要な作業ではありません。

03 選定

1つ選ぶなら、トレーニング用にどのGPUを借りるべきか？

数週間にわたる実行で当社が投入するであろう順に並べています。価格順ではありません。在庫はDFW-1ダラス、IAD-1アッシュバーン、PDX-1ヒルズボロにあります。

GPUVRAMインターコネクト週額月額GPU時間あたり現在の空き
H100 SXM 選定HBM3、3.35 TB/s、FP880 GBNVLink 900 GB/s$475$1,690/mo$2.3563
A100 SXMHBM2e、2.04 TB/s、FP8なし80 GBNVLink 600 GB/s$280$990/mo$1.3878
H200 SXMHBM3e、4.8 TB/s141 GBNVLink 900 GB/s$640$2,290/mo$3.1819
MI300XROCm 6.4、5.3 TB/s192 GBInfinity Fabric 896 GB/s$450$1,590/mo$2.218
L40SGDDR6 ECC、FP848 GBPCIe Gen4ピアツーピア$148$520/mo$0.7274
RTX A6000GDDR6 ECC、768 GB/s48 GBNVLinkブリッジ 112 GB/s、ペア$82$290/mo$0.4065
RTX 3090GDDR6X、936 GB/s24 GBNVLinkブリッジ 112 GB/s、ペア$65$230/mo$0.32186
RTX A5000GDDR6 ECC、230 W24 GBNVLinkブリッジ 112 GB/s、ペア$55$190/mo$0.2651
現在の空きは、前回のカタログ更新時点で3サイトにわたる予約されていないカード数です。すべての価格には、電力、冷却、10G保証付き100Gアップリンク、IPv4とIPv6、月20TBのアウトバウンドが含まれます。マルチGPU割引と前払い割引は料金ページにあります。

H100 SXMが最有力です。当社が貸し出す中で、80GBのHBM3、FP8テンソルコア、900GB/sのNVLinkを1つの型番にまとめた最安のカードです。A100 SXM 80 GBは価格重視の答えで、$990、FP8なし、同じNVLinkトポロジー、価格は59%です。

05 契約期間

なぜトレーニング実行には月額契約が適しているのか？

ファインチューニングは、課金モデルとジョブが一致するワークロードだからです。

01

チェックポイントの頻度は自分で決められる

プリエンプティブルな容量では防御的にチェックポイントを書くことになります。間隔は追い出しへの保険だからです。契約期間では、それは復旧判断になります。ロス曲線がそれに値するなら1,000ステップごとに、あるいは10,000ステップごとに書くだけです。

H100 SXMに2TBのローカルNVMe
02

ファインチューニングは1回の実行では終わらないことがほとんど

学習率のスイープ、データ除去実験、評価が期待外れだった後の再実行と、あと3回は発生し、それらは1回の予約ではなく2週間かけてやってきます。定額契約なら追加費用はありません。

同じカード、同じ環境、再プロビジョニングなし
03

追い出されない

60時間目に追い出された場合、最後のチェックポイントからの差、再キュー待ち、データセットの再読み込みがコストになります。契約期間は先取りできません。そのカードには他の誰も並んでいないからです。

シングルテナントのベアメタル、rootアクセス
04

データセットは常駐し続ける

実行の合間も、ワーキングセットはローカルNVMeに置かれます。H100 SXMでは2TB、A100では1TBなので、2回目のスイープはダウンロードからではなく最初のステップから始まります。

最初の1回以降はコールドスタートなし

従量課金との分岐点の計算は月額と時間単位のGPUレンタルに譲ります。契約期間を取る前に読む価値があります。トレーニングに固有なのは、スイープや再読み込みもGPU時間として数えられる点です。したがって、分岐点を検証する際の稼働率は、1回の実行ではなく2週間で見るべきです。

06 チェックポイント

チェックポイントはどこに置き、契約終了後には何が残るのか？

オプティマイザ状態を含む70Bのチェックポイントは1TBを超えます。4,000ステップより前に、それをどこに置くか決めてください。

ローカルNVMe
標準装備: H100 SXMとH200は2TB、A100 SXMは1TB、L40SとA6000は500GB。インスタンス単位でLUKS2暗号化、契約終了から7日後に消去されます。
追加ローカルNVMe
月額$9/TB、ノードあたり最大30TB。同じホスト、同じ暗号化。
ネットワークボリューム
月額$14/TB、リージョン内で三重複製、複数インスタンスに接続可能、解放後も永続します。
スナップショット
月額$6/TB。リージョン内の任意のインスタンスに復元できます。データセットを再アップロードせずにA100からH100へ実行を移すにはこれを使います。
データの持ち出し
インスタンスごとに月20TBのアウトバウンドが含まれ、超過分は$4/TBです。アダプタセットがこの上限に達することはありません。

実行が契約期間より長引く場合

更新注文は24時間前に同じ価格で発行されます。未払いのままにすると、インスタンスは契約終了時に停止し、スロットは72時間保持されます。その間にBTC、ETH、USDT、USDC、XMR、SOL、LTCで支払えます。ディスクは触れられません。その後スロットは解放され、NVMeキーは破棄されます。

すべてのチェックポイントは2回書いてください。速度にはローカルNVMe、保存にはネットワークボリューム。ボリュームだけが契約期間後も残る唯一のコピーです。
BTCETHUSDTUSDCXMRSOLLTC

ハードウェアはDFW-1、IAD-1、PDX-1にあります。アカウントはユーザー名とパスワードだけです。KYCなしGPUホスティングと暗号通貨での支払い方法を参照してください。

07 正直な話

どのような場合に、当社からファインチューニング用GPUを借りるべきではないのか？

よくある3つのケースを、書いておいた方が良いので書きます。

ジョブが6時間で終わる1つの実験なら、時間単位のプロバイダを使ってください。当社の最短契約は7日間です。1回の午後のQLoRAのためにH100 SXMを1ヶ月借りると$1,690かかり、支払った$1,690のうち使うのは約$18です。

2つ目はカードの買いすぎです。10GBしか必要としない7BのQLoRAのためにH100を借りる人はたくさんいます。そのジョブは$190のRTX A5000で動き、速度は遅いですが9倍遅くなるわけではありません。セクション02の表からサイズを選び、トレーニングしたいと願っているモデルから選ばないでください。

3つ目は、32枚や64枚のカードで2日間だけ実行し、二度と使わない場合です。当社が販売するノードは最大8枚までで、それを超えるなら従量制クラスタプロバイダの方が合います。

時間単位で借りる場合

月の総量がおおよそ480〜680 GPU時間を下回る場合。これはH100 SXMの月額$1,690が、例示的な$2.49〜$3.49の従量料金と交わるあたりです。または、ステップ時間を測るためにA100 SXMとH100 SXMを1時間ずつ借りたい場合です。

契約期間で借りる場合

実行が数週間単位である場合、データセットの再アップロードが痛い場合、スポット容量からすでに1度追い出されたことがある場合、または本人確認なしで暗号通貨で支払いたい場合です。

08 質問

ファインチューニング用GPUのレンタル、率直な質問。

7BモデルをファインチューニングするにはどのくらいのVRAMが必要ですか？
QLoRAでは約10GB、BF16ベースのLoRAでは21GB、アクティベーションを含めたAdamによるフルファインチューニングでは129GB、重み・勾配・オプティマイザ状態だけでも112GBです。最初の2つは24GBカードに収まるため、月$190のRTX A5000です。3つ目は、NVLink付き80GBカード2枚で月$1,881が最も安いCUDA経路で、ROCmスタックが合うなら192GBのMI300X 1枚が同じ129GBを月$1,590とより安く保持できます。数値はGPU VRAMガイドによるものです。
70Bモデルを1枚のGPUでファインチューニングできますか？
QLoRAならできます。4ビットの70Bベースは重みが約35GBで、アダプタ、オプティマイザ状態、オーバーヘッドを加えると51GBなので、月$990のA100 SXM 80GBに収まります。BF16の70Bベースに対するLoRAは156GB必要で、これは月$1,590の192GB MI300Xなら依然として1枚で足ります。70Bのフルファインチューニングには約1,288GB必要で、ノードが必要です。
GPUメモリにおいてLoRAとQLoRAの違いは何ですか？
LoRAは基本重みをBF16（パラメータあたり2バイト）で凍結し、小さなアダプタ行列を学習するため、オプティマイザ状態は数十GBではなく数百MBになります。QLoRAは凍結した基本モデルを4ビット（パラメータあたり0.5バイト）に量子化します。7Bモデルでは21GB対10GBになります。
複数GPUでファインチューニングするにはNVLinkが必要ですか？
1枚では不要で、小さなモデルのデータ並列実行でも不要です。重要になるのは、勾配やパラメータシャードが毎ステップカードをまたぐ場合です。H100 SXMとH200は900GB/s、A100 SXMは600GB/s、B200は1.8TB/sです。RTX 4090とRTX 5090にはNVLinkがないため、シャーディング学習にはお勧めしません。
トレーニング用GPUを月額で借りるといくらかかりますか？
A100 SXM 80GBは月$990で、720時間の契約ではGPU時間あたり$1.38です。H100 SXMは$1,690、つまり$2.35です。NVSwitch付き8台のH100 SXMノードは$12,170、つまり$2.11です。QLoRA用の24GBカードは$190からで、すべてのカードが週単位で利用できます。
契約終了時にチェックポイントはどうなりますか？
ローカルNVMeは契約終了から7日後に消去され、暗号化キーも破棄されるため、残したいものは月$14/TBのネットワークボリュームに置くべきです。これはリージョン内で三重複製され、インスタンス解放後も永続します。また、毎月含まれる20TBのアウトバウンドでデータを外へ移すこともできます。
本人確認なしでトレーニング用GPUを借りることはできますか？
はい。アカウントはユーザー名とパスワードだけです。メールアドレス、電話番号、身分証明書、登録済みカードは不要です。契約期間はBTC、ETH、USDT、USDC、XMR、SOL、LTCのいずれかでの1回の送金で支払います。インスタンス内でエージェントは動かず、当社の誰もデータセットを読みません。
トレーニング実行では、月額GPUレンタルは時間単位より良いですか？
数週間単位の実行なら、はい。ファインチューニングはほぼ常にカードを稼働させるため、定額契約が有利です。H100 SXMでGPU時間あたり$2.35、対して$2.49〜$3.49/時間は、特定ベンダーの見積もりではなく米国のオンデマンドプロバイダ全体の例示的な範囲で、追い出しや待ち行列はありません。午後1回だけなら、時間単位プロバイダを使ってください。

サイジングはGPU VRAMガイド、トポロジーはマルチGPUクラスタレンタル、結果の推論提供はLLM推論用GPU、イメージはドキュメントにあります。

カードのサイズを決め、契約期間を取り、実行を始める。

24GBでのQLoRAは月$190から、NVLink H100 SXMは$1,690から、8wayノードは$12,170から。注文は1回、支払いも1回、ID不要、カード不要。

アカウントを作成 →