استأجر GPU للضبط الدقيق، بحجم تحدده حسابات يمكنك التحقق منها.
تؤجر GPU Rent Hub وحدات معالجة رسوميات NVIDIA و AMD مخصصة للضبط الدقيق أسبوعيًا أو شهريًا، من $190 شهريًا لبطاقة 24 GB تشغّل QLoRA على نموذج 7B إلى $12,170 شهريًا لعقدة 8× H100 SXM متصلة عبر NVLink، مع الدفع بعملات Bitcoin أو Ethereum أو USDT أو USDC أو Monero أو Solana أو Litecoin دون التحقق من الهوية.
ما مقدار ذاكرة GPU الذي يحتاجه الضبط الدقيق فعليًا؟
هذا هو الجزء الذي يخطئ فيه الناس، وهو الجزء الوحيد الذي يحدد أي بطاقة تستأجرها.
ذاكرة الضبط الدقيق في فقرة واحدة. يكلف الضبط الدقيق الكامل باستخدام محسّن Adam حوالي 16 بايت لكل معامل: 2 لأوزان BF16، و2 للتدرجات، و4 للنسخة الرئيسية FP32، و4 لكل حالة من حالتي العزم الخاصتين بـ Adam. لذلك يحتاج نموذج 7B تقريبًا 112 GB قبل تخزين أي تنشيط واحد، وهو ما لا يتسع في بطاقة 24 GB ولا يتسع أيضًا في بطاقة 80 GB. LoRA يجمّد الأوزان الأساسية ويدرّب مصفوفات محوّلات صغيرة، وبالتالي تنخفض الفاتورة إلى الأساس المجمّد بمقدار 2 بايت لكل معامل بالإضافة إلى بضع مئات من الميغابايت لحالة المحوّل والمحسّن: حوالي 21 GB لنموذج 7B. QLoRA يحوّل ذلك الأساس المجمّد إلى 4 بتات، أي 0.5 بايت لكل معامل، ويدرّب المحوّلات نفسها: حوالي 10 GB لنموذج 7B وحوالي 51 GB لنموذج 70B.
هذه الأرقام الثلاثة، وكل رقم في الجدول أدناه، مأخوذة من دليل GPU VRAM ووفق افتراضاته: نقاط فحص التدرجات مفعّلة، وطول التسلسل 2,048، والدفعة 1، ومحوّلات الرتبة 16 بنحو 0.5% من المعاملات، مع تضمين بدل الحمل التشغيلي مسبقًا. إذا زدت طول التسلسل أو حجم الدفعة، تزداد التنشيطات فوق ذلك.
من أين يأتي الرقم 16
لا شيء في حلقة التدريب يخزّن النموذج مرة واحدة فقط. الأوزان، وتدرج بالشكل نفسه، ونسخة رئيسية FP32، ومتوسط Adam والتباين لكل معامل. لا يوجد إطار عمل يلغي ذلك بالتفاوض.
ما الذي يزيله LoRA
التدرج وحالتا المحسّن معًا، لكل شيء عدا المحوّلات. لا يزال الأساس المجمّد يجب أن يبقى مقيمًا في الذاكرة، ولهذا يظل LoRA على نموذج 7B بدقة BF16 بحجم 14 GB قبل أي شيء آخر. QLoRA يستهدف البقاء في الذاكرة، وليس المحسّن.
أي GPU أحتاج لضبط نموذج 7B أو 13B أو 70B بدقة؟
النموذج مقابل الطريقة مقابل البطاقة التي تتسع له، مع أرقام VRAM من دليل VRAM. سعر ساعة GPU الواحدة هو السعر الشهري مقسومًا على 720.
| النموذج والطريقة | VRAM المطلوبة | البطاقة المناسبة | VRAM البطاقة | أسبوعيًا | شهريًا | لكل ساعة GPU |
|---|---|---|---|---|---|---|
| 7B، QLoRAأساس 4 بت، الرتبة 16 | 10 GB | RTX A5000 | 24 GB | $55 | $190/mo | $0.26 |
| 13B، QLoRAأساس 4 بت | 14 GB | RTX 3090 | 24 GB | $65 | $230/mo | $0.32 |
| 7B، LoRAأساس BF16 يُحفظ مقيمًا | 21 GB | RTX 4090 | 24 GB | $110 | $390/mo | $0.54 |
| 34B، QLoRAأساس 4 بت | 28 GB | A40 | 48 GB | $68 | $240/mo | $0.33 |
| 13B، LoRAأساس BF16 | 33 GB | L40S | 48 GB | $148 | $520/mo | $0.72 |
| 70B، QLoRA35 GB من أوزان 4 بت | 51 GB | A100 SXM | 80 GB | $280 | $990/mo | $1.38 |
| 34B، LoRAأساس BF16، بطاقة واحدة | 79 GB | MI300X | 192 GB | $450 | $1,590/mo | $2.21 |
| 7B، ضبط دقيق كاملAdam، 16 بايت لكل معامل | 129 GB | 2× A100 SXMNVLink بسرعة 600 GB/s، أرخص مسار CUDA | 160 GB | $532 | $1,881/mo | $1.31 |
| 70B، LoRAأساس BF16، بطاقة واحدة | 156 GB | 1× MI300Xلا حاجة للتقسيم | 192 GB | $450 | $1,590/mo | $2.21 |
| 70B، ضبط دقيق كاملZeRO-3 عبر العقدة | 1,288 GB | 8× MI300XInfinity Fabric بسرعة 896 GB/s | 1,536 GB | $3,240 | $11,450/mo | $1.99 |
قارن الصف الثامن بالصف السادس. يكلف الضبط الدقيق الكامل لنموذج 7B ضعف ما يكلفه QLoRA على نموذج 70B تقريبًا. بالنسبة لمعظم الناس، هذه ليست المهمة التي يحتاجون إلى تنفيذها.
أي GPU يجب أن تستأجر للتدريب إذا كان عليك اختيار واحد؟
مرتبة حسب ما كنا سننشره لتشغيل متعدد الأسابيع، لا حسب السعر. المخزون موزّع على DFW-1 Dallas وIAD-1 Ashburn وPDX-1 Hillsboro.
| GPU | VRAM | الربط البيني | أسبوعيًا | شهريًا | لكل ساعة GPU | متاح الآن |
|---|---|---|---|---|---|---|
| H100 SXM الاختيارHBM3، 3.35 TB/s، FP8 | 80 GB | NVLink 900 GB/s | $475 | $1,690/mo | $2.35 | 63 |
| A100 SXMHBM2e، 2.04 TB/s، بدون FP8 | 80 GB | NVLink 600 GB/s | $280 | $990/mo | $1.38 | 78 |
| H200 SXMHBM3e، 4.8 TB/s | 141 GB | NVLink 900 GB/s | $640 | $2,290/mo | $3.18 | 19 |
| MI300XROCm 6.4، 5.3 TB/s | 192 GB | Infinity Fabric 896 GB/s | $450 | $1,590/mo | $2.21 | 8 |
| L40SGDDR6 ECC، FP8 | 48 GB | PCIe Gen4 نظير إلى نظير | $148 | $520/mo | $0.72 | 74 |
| RTX A6000GDDR6 ECC، 768 GB/s | 48 GB | جسر NVLink بسرعة 112 GB/s، أزواج | $82 | $290/mo | $0.40 | 65 |
| RTX 3090GDDR6X، 936 GB/s | 24 GB | جسر NVLink بسرعة 112 GB/s، أزواج | $65 | $230/mo | $0.32 | 186 |
| RTX A5000GDDR6 ECC، 230 W | 24 GB | جسر NVLink بسرعة 112 GB/s، أزواج | $55 | $190/mo | $0.26 | 51 |
بطاقة H100 SXM هي الاختيار: أرخص بطاقة نؤجرها تجمع 80 GB من HBM3 وأنوية FP8 Tensor وNVLink بسرعة 900 GB/s في رقم قطعة واحد. وتعد A100 SXM 80 GB هي الإجابة الاقتصادية عند $990، بدون FP8، وبنية NVLink نفسها، و59% من السعر.
لماذا يكون NVLink مهمًا عند استخدام أكثر من بطاقة؟
لأن التشغيل المجزأ ينقل التدرجات بين البطاقات في كل خطوة، والوصلة هي الحد الأدنى لسرعة حدوث ذلك.
على بطاقة GPU واحدة، لا يكون الربط البيني مهمًا. بمجرد التقسيم، سواء باستخدام ZeRO-2 أو ZeRO-3 أو التوازي التنسوري، تتبادل البطاقات التدرجات أو أجزاء المعاملات في كل خطوة، وتكون هذه الحركة مضاعفًا ثابتًا من حجم النموذج. تبلغ السرعة الخطية لمنفذ PCIe Gen4 x16 نحو 32 GB/s في اتجاه واحد، وGen5 نحو 63. تبلغ سرعة NVLink على H100 SXM 900 GB/s. هذا هو الفرق بين خطوة اتصال تتوارى خلف الحوسبة وأخرى تصبح هي الخطوة.
القاعدة: يعمل LoRA أو QLoRA على بطاقة واحدة على أي شيء به VRAM كافٍ، ويتحمل التدريب متوازي البيانات منفذ PCIe، وأي شيء يجزئ نموذجًا يريد NVLink. وعند أكثر من أربع بطاقات يريد NVSwitch، وهي ما تحمله عقد HGX ذات 8 منافذ في صفحة استئجار مجموعات GPU المتعددة.
| البطاقة | الوصلة بين البطاقات | عرض النطاق | التدريب المجزأ |
|---|---|---|---|
| B200ثنائية أو رباعية أو ثمانية | NVLink 5 مع NVSwitch | 1.8 TB/s | نعم، حتى 8 بطاقات |
| H100 SXM، H200 SXM | NVLink مع NVSwitch | 900 GB/s | نعم، حتى 8 بطاقات |
| A100 SXM | NVLink مع NVSwitch | 600 GB/s | نعم، حتى 8 بطاقات |
| MI300X | Infinity Fabric | 896 GB/s | نعم، 8 منافذ فقط |
| H100 PCIe | جسر NVLink اختياري | 600 GB/s | أزواج |
| A6000، A40، 3090، A5000 | جسر NVLink | 112 GB/s | أزواج |
| L40S، RTX 6000 Ada، L4 | PCIe Gen4 نظير إلى نظير | ~32 GB/s | البيانات المتوازية فقط |
| RTX 4090، RTX 5090 | PCIe نظير إلى نظير، بدون NVLink | ~32 / ~63 GB/sGen4 x16 / Gen5 x16 | بطاقة واحدة |
لماذا تعد المدة الشهرية الشكل الصحيح لتشغيل التدريب؟
الضبط الدقيق هو الحمل الذي يتوافق فيه نموذج الفوترة مع المهمة.
إيقاع نقاط الفحص قرارك
على السعة القابلة للاستباق، تحفظ نقاط الفحص بدافع دفاعي، لأن الفاصل الزمني تحوّط ضد الإخلاء. أما على المدة الشهرية فهو قرار استرداد: اكتبها كل ألف خطوة إذا كان منحنى الخسارة يستحق، أو كل عشرة آلاف.
الضبط الدقيق نادرًا ما يكون تشغيلة واحدة
مسح معدل التعلم، واجتثاث البيانات، وإعادة تشغيل بعد خيبة التقييم هي ثلاث تشغيلات إضافية، تأتي على مدى أسبوعين بدلًا من حجز واحد. وكل منها لا يكلف شيئًا إضافيًا على المدى الثابت.
لا يمكن إخلاؤه
يكلف الإخلاء عند الساعة 60 الفجوة منذ آخر نقطة فحص، وانتظار إعادة الإدخال في الطابور، وإعادة تحميل مجموعة البيانات. أما المدة الشهرية فلا يمكن الاستباق عليها، لأنه لا يوجد أحد آخر في الطابور بانتظار البطاقة.
تبقى مجموعة البيانات مقيمة
تبقى مجموعة العمل بين التشغيلات على NVMe المحلي، 2 TB على H100 SXM و1 TB على A100، لذلك يبدأ المسح الثاني من الخطوة الأولى بدلًا من التنزيل.
حسابات نقطة التعادل مقابل العداد موجودة في استئجار GPU الشهري مقابل الساعي، وتستحق القراءة قبل أن تأخذ مدة. وما يخص التدريب أن عمليات المسح وإعادة التحميل تُحتسب أيضًا ضمن ساعات GPU، لذا فإن رقم الاستخدام الذي ينبغي أن تختبر به التعادل هو الأسبوعان، وليس التشغيلة الواحدة.
أين تذهب نقاط الفحص، وما الذي يبقى بعد نهاية المدة؟
نقطة فحص نموذج 70B مع حالة المحسّن تتجاوز تيرابايت. قرر أين تستقر قبل الخطوة 4,000.
- NVMe محلي
- مضمّن: 2 TB على H100 SXM وH200، و1 TB على A100 SXM، و500 GB على L40S وA6000. مشفر بـ LUKS2 لكل نسخة، ويُمسح بعد سبعة أيام من نهاية المدة.
- NVMe محلي إضافي
- سعر $9 لكل TB شهريًا، حتى 30 TB على العقدة. المضيف نفسه والتشفير نفسه.
- وحدة تخزين عبر الشبكة
- سعر $14 لكل TB شهريًا، منسوخة ثلاثيًا في المنطقة، قابلة للإرفاق بعدة نسخ، ومستمرة بعد إخلائها.
- لقطات سريعة
- سعر $6 لكل TB شهريًا. قابلة للاستعادة لأي نسخة في المنطقة، وهكذا تنتقل التشغيلة من A100 إلى H100 دون إعادة رفع مجموعة البيانات.
- إخراجها
- مضمّن 20 TB من حركة الخروج لكل نسخة شهريًا، ثم $4 لكل TB. مجموعة المحوّلات لا تقترب من هذا الحد أبدًا.
إذا تجاوزت التشغيلة المدة
يُرفع أمر تجديد قبل 24 ساعة بالسعر نفسه. وإذا تُرك دون دفع تتوقف النسخة عند نهاية المدة، مع الاحتفاظ بالفتحة لمدة 72 ساعة بينما تدفع بعملات BTC أو ETH أو USDT أو USDC أو XMR أو SOL أو LTC. القرص لا يُمس. بعد ذلك تُحرر الفتحة ويُدمر مفتاح NVMe.
توجد العتاد في DFW-1 وIAD-1 وPDX-1. الحساب هو اسم مستخدم وكلمة مرور: راجع استضافة GPU بدون KYC وكيفية الدفع بالعملات الرقمية.
متى ينبغي ألا تستأجر GPU للضبط الدقيق منا؟
ثلاث حالات شائعة لدرجة أننا نفضّل كتابتها.
الحالة الثانية هي المبالغة في شراء البطاقة. كثير من الناس يستأجرون H100 لضبط نموذج 7B باستخدام QLoRA، وهو يحتاج 10 GB. هذه المهمة تعمل على بطاقة RTX A5000 بسعر $190، أبطأ، لكنها ليست أبطأ بتسع مرات. حدد الحجم من الجدول في القسم 02، وليس من النموذج الذي تتمنى تدريبه.
الحالة الثالثة هي تشغيلة تحتاج 32 أو 64 بطاقة ليومين ولن تتكرر أبدًا. نحن نبيع عقدًا حتى ثماني بطاقات؛ وما فوق ذلك يناسبه مزود مجموعات محاسب حسب الاستخدام بشكل أفضل.
استأجر بالساعة إذا
كان إجماليك أقل من نحو 480 إلى 680 ساعة GPU شهريًا، وهي النقطة التي يلتقي فيها $1,690 لشهر من H100 SXM بعداد تقديري يتراوح بين $2.49 و$3.49، أو إذا أردت ساعة على كل من A100 SXM وH100 SXM لقياس خطوتك.
استأجر فترة إذا
كانت التشغيلة تُقاس بالأسابيع، أو كانت إعادة رفع مجموعة البيانات مؤلمة، أو سبق أن أُخليت من سعة فورية مرة واحدة، أو أردت الدفع بالعملات الرقمية دون التحقق من الهوية.
استئجار GPU للضبط الدقيق، أسئلة بصراحة.
ما مقدار VRAM الذي أحتاجه لضبط نموذج 7B بدقة؟
هل يمكنني ضبط نموذج 70B على بطاقة GPU واحدة؟
ما الفرق بين LoRA وQLoRA في ذاكرة GPU؟
هل أحتاج NVLink للضبط الدقيق على عدة وحدات GPU؟
كم تبلغ تكلفة استئجار GPU للتدريب شهريًا؟
ماذا يحدث لنقاط الفحص الخاصة بي عند نهاية المدة؟
هل يمكنني استئجار GPU للتدريب دون التحقق من الهوية؟
هل استئجار GPU الشهري أفضل من الساعي لتشغيل التدريب؟
التحجيم في دليل GPU VRAM، والبنى الطوبولوجية في استئجار مجموعات GPU المتعددة، وخدمة النتيجة في GPU لاستدلال LLM، والصور في التوثيق.
حدد حجم البطاقة، وخذ المدة، وابدأ التشغيل.
QLoRA على 24 GB بدءًا من $190 شهريًا، وNVLink H100 SXM بدءًا من $1,690، وعقدة بثماني بطاقات بدءًا من $12,170. طلب واحد، ودفعة واحدة، بدون هوية، وبدون بطاقة.