تأجير كتلة 8x H100 على جهاز فيزيائي واحد.
تؤجّر GPU Rent Hub عقدة 8× H100 SXM مخصصة، خادم HGX واحد لمستأجر واحد مع جميع البطاقات الثماني على نسيج NVSwitch، مقابل $12,170 شهريًا أو $3,420 أسبوعيًا، تُدفع بعملة Bitcoin أو Ethereum أو USDT أو USDC أو Monero أو Solana أو Litecoin دون التحقق من الهوية.
تسع تكوينات عقد، من صندوق 8× RTX 4090 بسعر $2,810 شهريًا إلى لوحة أساس 8× B200 HGX بسعر $28,010.
ما هي عقدة متعددة وحدات GPU، وكيف تختلف عن الكتلة؟
تُستخدم كلمة كتلة لمنتجين مختلفين. واحد فقط منهما يضع البطاقات على النسيج نفسه.
التعريف الذي نعمل به
عقدة متعددة وحدات GPU هي خادم فيزيائي واحد يُؤجَّر لمستأجر واحد، مع كل وحدة GPU على لوحة قاعدة واحدة ونسيج مباشر بين البطاقات. عقدة GPU Rent Hub 8× H100 SXM هي لوحة أساس NVIDIA HGX H100: ثماني بطاقات، 640 GB من HBM3، NVSwitch يمنح كل بطاقة 900 GB/s إلى كل بطاقة أخرى، 160 vCPU، 2 TB من ذاكرة النظام، 16 TB من NVMe المحلي ومنفذي 100G، مع صلاحية root على المعدن العاري. إنها ليست ثماني نسخ موصولة عبر إيثرنت، وليست شريحة من جهاز تتم مشاركته مع شخص آخر.
لماذا يهم هذا التمييز
الكتلة الافتراضية تمنحك ثماني بطاقات يمكن لكلٍّ منها تشغيل مهمة. العقدة الحقيقية تمنحك ثماني بطاقات يمكنها تشغيل مهمة واحدة معًا، ويظهر الفرق لحظة تقسيم النموذج، لأن التقسيم يعني أن البطاقات تتواصل مع بعضها عند كل طبقة.
كل شيء على العقدة ملكك: وحدات المعالجة المركزية، الذاكرة، NVMe، كلا الوصلتين الصاعدتين والنسيج. لا يعمل أي شيء من أنظمتنا داخل نظام التشغيل، والعقدة المتوفرة تُجهَّز مثل أي نسخة أخرى.
كم تكلفة استئجار كتلة 8x H100 شهريًا؟
$12,170 شهريًا لعقدة HGX H100 ذات الثماني بطاقات، أي $2.11 لكل ساعة GPU. باقي النطاق، مُبين حسب العمل المُشتراة لأجله.
| عبء العمل | العقدة | إجمالي VRAM | أسبوعيًا | شهريًا | لكل ساعة GPU |
|---|---|---|---|---|---|
| خدمة النماذج 70B بتوازٍ موتر، وتدريب لا تتحمله بطاقة واحدةابدأ هنا | 8× H100 SXMHGX H100 · NVSwitch | 640 GB | $3,420 | $12,170/mo | $2.11 |
| ضبط دقيق كامل باستخدام آدم، أو نموذج 405B في FP8أسرع نسيج بين العقد التي تنجح في كليهما | 8× B200HGX B200 · NVSwitch 1.8 TB/s | 1,440 GB | $7,850 | $28,010/mo | $4.86 |
| استدلال بسياق طويل حيث تهيمن ذاكرة التخزين المؤقت KV141 GB لكل بطاقة، دون تقسيم لـ 120B | 8× H200 SXMHGX H200 · NVSwitch | 1,128 GB | $4,610 | $16,490/mo | $2.86 |
| أكبر قدر من HBM لكل دولار، على بيئة ROCm أصلية$7.45 لكل GB شهريًا | 8× MI300XInfinity Fabric · 896 GB/s | 1,536 GB | $3,240 | $11,450/mo | $1.99 |
| جلسات تدريب لعدة أسابيع بتكلفة منخفضةجيل NVLink أقدم، بنصف السعر | 8× A100 SXM 80GHGX A100 · NVSwitch 600 GB/s | 640 GB | $2,020 | $7,130/mo | $1.24 |
| توازٍ موتر رباعي الاتجاهات، نصف العقدةنفس النسيج، التزام أصغر | 4× H100 SXMNVLink · 900 GB/s | 320 GB | $1,750 | $6,220/mo | $2.16 |
| ثماني نسخ استدلال مستقلةنموذج واحد لكل بطاقة، دعم FP8 | 8× L40SPCIe Gen4 peer-to-peer | 384 GB | $1,070 | $3,740/mo | $0.65 |
| انتشار وطوابير فيديو بالتوازي1.79 TB/s لكل بطاقة | 8× RTX 5090PCIe Gen5 peer-to-peer | 256 GB | $1,120 | $3,890/mo | $0.68 |
| مزرعة عرض، مهمة دفعة واحدة لكل بطاقةأرخص طريقة لامتلاك ثماني بطاقات | 8× RTX 4090PCIe Gen4 peer-to-peer | 192 GB | $790 | $2,810/mo | $0.49 |
ماذا يأتي مع العقدة إلى جانب وحدات GPU؟
كل رقم هنا لكل عقدة، وليس لكل بطاقة، وكلها مخصصة لك.
| العقدة | إجمالي VRAM | vCPU | الذاكرة | NVMe | الشبكة | المناطق |
|---|---|---|---|---|---|---|
| 8× B200HGX B200 | 1,440 GB | 224 | 2 TB | 24 TB | 2 × 100G | DFW-1 |
| 8× H200 SXMHGX H200 | 1,128 GB | 192 | 2 TB | 16 TB | 2 × 100G | DFW-1، IAD-1 |
| 8× H100 SXMHGX H100 | 640 GB | 160 | 2 TB | 16 TB | 2 × 100G | DFW-1، IAD-1، PDX-1 |
| 4× H100 SXMنصف لوحة قاعدة | 320 GB | 80 | 1 TB | 8 TB | 100G | DFW-1، IAD-1، PDX-1 |
| 8× MI300Xمنصة AMD Instinct | 1,536 GB | 192 | 2 TB | 16 TB | 2 × 100G | DFW-1 |
| 8× A100 SXM 80GHGX A100 | 640 GB | 128 | 1 TB | 8 TB | 100G | DFW-1، IAD-1، PDX-1 |
| 8× L40SPCIe Gen4 | 384 GB | 128 | 752 GB | 4 TB | 100G | DFW-1، IAD-1، PDX-1 |
| 8× RTX 5090PCIe Gen5 | 256 GB | 96 | 496 GB | 4 TB | 100G | DFW-1، IAD-1، PDX-1 |
| 8× RTX 4090PCIe Gen4 | 192 GB | 64 | 376 GB | 2 TB | 100G | DFW-1، IAD-1، PDX-1 |
ما الفرق بين عقدة NVSwitch وعقدة PCIe؟
مجموعتان من الأجهزة في الجدول أعلاه، والفجوة بينهما نحو ثلاثين إلى واحد.
NVSwitch و NVLink
على منصات HGX، تصل كل بطاقة إلى كل بطاقة أخرى بسرعة 900 GB/s على عقد H100 وH200، و1.8 TB/s على عقدة B200، و600 GB/s على عقدة A100. منصة MI300X تقوم بالمهمة نفسها عبر Infinity Fabric بسرعة 896 GB/s. لا توجد وحدة معالجة مركزية في المسار.
هذه النطاق الترددي هو ما يجعل التوازي الموتر واقعيًا. تقسيم نموذج واحد عبر ثماني بطاقات يعني عملية all-reduce عند كل طبقة، مئات المرات في كل تمريرة أمامية، والبطاقات تقضي وقتها في انتظار هذا التبادل بدلاً من الحساب إذا كان الرابط بطيئًا.
PCIe peer-to-peer
عُقد L40S وRTX 5090 وRTX 4090 لا تحتوي على NVLink. تتواصل البطاقات عبر PCIe: حوالي 32 GB/s في اتجاه واحد على رابط Gen4 x16، وحوالي 63 GB/s على Gen5، تتشارك مع كل شيء آخر يعبر مجمع الجذر. مقابل 900 GB/s لبطاقة H100 SXM، هذا تقريبًا واحد على ثمانية وعشرين من النطاق الترددي.
عمليًا يعني ذلك نموذجًا واحدًا لكل بطاقة. التدريب المتوازي البيانات، وثماني نسخ استدلال خلف موازن تحميل، وثماني مهام عرض: كلها جيدة. تقسيم بموازاة موتر 8-way على عقدة PCIe ممكن لكنه بطيء، ووقت الساعة الفعلي يكلف أكثر مما توفره العقدة.
ما مقدار VRAM الذي تحتاجه عقدة متعددة وحدات GPU لنموذجك؟
احسب البايتات لكل معامل أولاً. تقريبًا كل قرار بشأن العقدة ينبثق من هذا الرقم الواحد.
قاعدة تحديد الحجم
الأوزان تأخذ 1 بايت لكل معامل في FP8 و2 بايت في BF16. لتشغيل نموذج، أضف ذاكرة التخزين المؤقت KV وحوالي 2 GB من الحمل الزائد في وقت التشغيل. لضبطه الدقيق الكامل باستخدام آدم في BF16، خصص حوالي 16 بايت لكل معامل: 2 للأوزان، و2 للتدرجات، و12 لحالة المُحسِّن والنسخة الرئيسية FP32. وفقًا لأرقام دليل VRAM يحتاج نموذج 70B إلى 75 GB للتشغيل في FP8، و145 GB في BF16، و156 GB لـ LoRA، و1,288 GB للضبط الدقيق الكامل مع حساب التفعيلات. الرقم الأخير فقط هو حجم عقدة.
ماذا يمنحك ذلك
نموذج 70B في BF16 يحتاج 145 GB، لذا لن يسع في بطاقة واحدة بسعة 80 GB، لكنه يستقر على عقدة 8× H100 SXM مع 495 GB فائضة للدفعة وذاكرة KV. الضبط الدقيق الكامل للنموذج نفسه عند 1,288 GB لا يتم إلا على 8× B200 أو 8× MI300X. كل ما عدا ذلك يحتاج LoRA أو تفريغ ZeRO، كما هو موضح في صفحة GPU للضبط الدقيق.
ضبط LoRA لنموذج 70B ليس من هذه المهام. عند 156 GB يضعه دليل VRAM على بطاقة MI300X واحدة مقابل $1,590 شهريًا، لذا فالعقدة تكلفك سبعة أضعاف المال وأمسية من خرائط الأجهزة بلا فائدة.
بالترتيب حسب الجيجابايت لكل دولار، الترتيب صريح: عقدة MI300X هي $7.45 لكل GB شهريًا، عقدة L40S $9.74، عقدة A100 $11.14، عقدة H100 $19.02. الرخيصة رخيصة لأسباب: ROCm في واحدة، وغياب NVLink في الأخرى.
كيف يعمل خصم تعدد وحدات GPU، وهل يتراكم؟
5% لبطاقتين، 8% لأربع، 10% لثماني، تُطبق على سعر البطاقة الواحدة. يتراكم مع خصم المدة المدفوعة مقدمًا.
| H100 SXM، مضيف واحد | السعر الأصلي | الخصم | المبلغ المدفوع | لكل ساعة GPU |
|---|---|---|---|---|
| بطاقة واحدة | $1,690 | لا شيء | $1,690/mo | $2.35 |
| بطاقتان | $3,380 | 5% | $3,211/mo | $2.23 |
| 4 بطاقاتNVLink، نصف لوحة قاعدة | $6,760 | 8% | $6,220/mo | $2.16 |
| 8 بطاقاتعقدة HGX كاملة، NVSwitch | $13,520 | 10% | $12,170/mo | $2.11 |
| 8 بطاقات، 3 أشهر مدفوعة مقدمًا10% ثم 5% | $40,560 | 14.5% | $34,685total | $2.01 |
| 8 بطاقات، 6 أشهر مدفوعة مقدمًا10% ثم 10% | $81,120 | 19% | $65,718total | $1.90 |
الحد الأدنى هو $1.90 لكل ساعة GPU لثماني بطاقات H100 SXM الموصولة بـ NVSwitch، مقابل $2.35 لبطاقة واحدة على أساس شهري متجدد. لا يتغير الدفع مع حجم الطلب: تحويل واحد بعملة BTC أو ETH أو USDT أو USDC أو XMR أو SOL أو LTC ينهي الأمر، دون بطاقة أو وثيقة هوية. انظر كيف يعمل الدفع بالعملات الرقمية، وماذا يعني استضافة GPU بدون KYC، ولماذا الاستئجار الشهري أفضل من العداد بالساعة.
هل يمكنك استئجار 16 إلى 64 وحدة GPU عبر عدة عقد؟
نعم، مع InfiniBand بين العقد، تسعّر حسب كل حالة بدلاً من بيعها من الكتالوج.
أخبر المبيعات بالشكل
عدد وحدات GPU، النموذج، المنطقة، المدة، وInfiniBand HDR بسرعة 200 Gb/s أو NDR بسرعة 400 Gb/s. اكتب إلى المبيعات.
عرض السعر ومدة التنفيذ
من 16 إلى 64 وحدة GPU، تُسعّر وفقًا لأسعار العقد أعلاه. مدة التنفيذ من 2 إلى 6 أسابيع، حسب النسيج.
50% عند الطلب
نصف المدة الأولى مقدمًا، بأي من العملات السبع. هذا يحجز العتاد.
50% عند التسليم
الباقي بعد اجتياز النسيج لاختبار التشغيل وحصولك على صلاحية root. لا يوجد فحص هوية في أي خطوة.
الشبكات بين النسخ داخل المنطقة
يمكن للنسخ في المنطقة نفسها مشاركة شبكة VLAN خاصة: الطبقة الثانية بين أجهزتك دون قفزة عامة، مقابل $25 شهريًا، وتُضمَّن على كل عقدة ثمانية الاتجاهات. هذه هي الأداة لصندوق تخزين يغذي أربع عقد 8× A100.
ليست بديلاً عن InfiniBand. شبكة VLAN تستخدم نفس إيثرنت 100G مثل كل شيء آخر: مناسبة لتحميل البيانات ونقاط التحقق، وغير مناسبة لتبادل التدرجات في كل خطوة.
متى يكون استئجار عقدة متعددة وحدات GPU خيارًا خاطئًا؟
إذا كانت مهمتك تتسع على بطاقة واحدة، فالعقدة مضيعة للمال. عقدة 8× RTX 4090 تكلف $2,810 شهريًا مقابل $390 لبطاقة واحدة، ونموذج 13B في FP8 يستهلك 22 GB بالكامل مع الأوزان والذاكرة المؤقتة والحمل الزائد. ثماني بطاقات تدفع ثمنها فقط مع ثمانية تدفقات عمل، أو نموذج لا يتسع.
إذا كنت بحاجة إلى ثماني بطاقات ليومين، فاستخدم مزودًا بالساعة: أسبوع من عقدة 8× H100 يكلف $3,420 سواء شغلتها لست ساعات أو 168. وإذا كان القيد هو الذاكرة وليس الإنتاجية، فإن بطاقة H200 بسعة 141 GB أو بطاقة MI300X بسعة 192 GB غالبًا ما تلغي الحاجة إلى عقدة.
استأجر عقدة عندما
النموذج لا يتسع على بطاقة واحدة، أو يستمر التشغيل لأسابيع، أو تحتاج ثماني نسخ خلف عنوان واحد، أو المهمة مقسمة وتحتاج 900 GB/s بين البطاقات.
استأجر بطاقات مفردة عندما
المهام مستقلة، أو الحمل غير متوقع، أو تريد الاختبار على بطاقة H100 SXM واحدة قبل الالتزام بثمان.
تأجير العقد متعددة وحدات GPU والكتل، بصراحة.
كم تكلفة استئجار كتلة 8x H100 شهريًا؟
هل عقدة GPU Rent Hub جهاز حقيقي أم كتلة افتراضية؟
ما الفرق بين NVSwitch وPCIe في تدريب تعدد وحدات GPU؟
ما مقدار VRAM الإجمالي في عقدة 8x H100؟
هل يتراكم خصم تعدد وحدات GPU مع المدد المدفوعة مقدمًا؟
هل يمكنني استئجار أكثر من ثماني وحدات GPU في كتلة واحدة؟
هل يمكنني استئجار عقدة HGX بدون KYC والدفع بالعملات الرقمية؟
أي عقدة يجب أن أستأجرها لضبط نموذج 70B دقيقًا؟
تفاصيل النشر في التوثيق، وحالة الأسطول في صفحة الحالة.
ثماني بطاقات على نسيج واحد، بحلول الجمعة.
العُقد المتوفرة تُجهَّز مثل أي نسخة أخرى. لـ 16 وحدة GPU فأكثر، تحدث إلى المبيعات وتوقع من 2 إلى 6 أسابيع.