GPU для генерації відео зі ШІ, з помісячною ціною.
GPU Rent Hub здає в оренду виділені сервери NVIDIA RTX 5090 32 GB для генерації відео зі ШІ за $540 на місяць, тобто $0.75 за GPU-годину, з оплатою в Bitcoin, Ethereum, USDT, USDC, Monero, Solana або Litecoin без перевірки особи.
Відео — найвимогливіший до пам’яті та найвимогливіший до часу генеративний робочий процес, і саме тому фіксований термін вигідніший за погодинний лічильник. Ось арифметика розрахунку.
Що потрібно генерації відео зі ШІ від GPU?
Дві речі, і це не одне й те саме: достатньо VRAM, щоб утримати запуск, і достатньо годин, щоб завершити чергу.
Відеомоделі потрібна VRAM для чотирьох речей одночасно: ваги моделі, текстовий енкодер, латентний відеотензор і активації, створені під час усунення шуму. Латент — це сітка кадрів, поділена на часовий коефіцієнт стиснення, помножена на висоту й ширину, кожна з яких поділена на 8. Кожна позиція в цій сітці є токеном, до якого трансформер застосовує увагу, тому пам’ять зростає лінійно з кількістю кадрів і площею пікселів, а робота уваги — приблизно з квадратом кількості токенів. П’ятисекундний кліп у 720p — це не трохи більше зображення. Один кадр 720p — це латент 160 на 90, 14 400 токенів; кліп — 160 на 90 на 21, тобто 302 400 токенів. Це у двадцять один раз довша послідовність і, якщо брати квадрат, приблизно в 440 разів більший обсяг роботи уваги.
Декодування VAE в кінці часто є точкою найбільшого споживання пам’яті під час запуску, оскільки воно розгортає латент назад до кадрів повної роздільної здатності. Тайлове декодування — це те, до чого вдаються, коли завдання падає на останньому кроці.
Скільки VRAM потрібно для п’ятисекундного відеокліпу?
Спочатку порахуйте латентні токени. Припущення: просторовий VAE 8×, часовий 4×, 16 кадрів/с та один тензор активацій із шириною 1,536 у FP16.
| Кліп | Латентна сітка | Токени | Один тензор активацій | проти 480p | Робота уваги |
|---|---|---|---|---|---|
| 480p, 5 с832 × 480, 81 кадр | 104 × 60 × 21 | 131,040 | 0.40 GB | 1.0× | 1.0× |
| 720p, 5 с1280 × 720, 81 кадр | 160 × 90 × 21 | 302,400 | 0.93 GB | 2.3× | 5.3× |
| 720p, 10 с1280 × 720, 161 кадр | 160 × 90 × 41 | 590,400 | 1.81 GB | 4.5× | 20× |
| 1080p, 5 с1920 × 1088, 81 кадр | 240 × 136 × 21 | 685,440 | 2.11 GB | 5.2× | 27× |
Потім додайте ваги
Параметри, помножені на байти на параметр. Модель 5B — це 10 GB у BF16 і 5 GB у FP8. Модель 14B — це 28 GB у BF16 і 14 GB у FP8. Текстовий енкодер — третє число, і його визначає контрольна точка: google/t5-v1_1-xxl — це 11B параметрів повністю, 22 GB у BF16, але лише башта енкодера, яку завантажують робочі процеси для зображень і відео, — це 4.7B, тобто 9.4 GB. У будь-якому разі саме тому майже всі запускають його один раз і звільняють перед початком усунення шуму.
Ця арифметика визначає карту. Модель 14B у FP8 з вивантаженим енкодером — це 14 GB ваг, що залишає 32 GB карті місце для активацій 720p і тайлового декодування. Та сама модель у BF16 — це 28 GB і не залишає нічого.
Правило підбору
- 24 GB
- 480p, 5 с, ваги FP8, енкодер вивантажено
- 32 GB
- 720p, 5 с, FP8, тайлове декодування
- 48 GB
- 720p на 10 с, або короткі 1080p, або BF16 на моделі 5B
- 80 GB
- 14B у BF16 без вивантаження, або реальний батч
- 141 GB+
- Довгі кліпи 1080p і батчі з кількох кліпів в одному процесі
Wan 2.2 та Hunyuan Video випускаються в кількох розмірах і точностях, і вони змінюються між релізами. Арифметика переживає нотатки до релізів. Ємність карт — у посібнику з GPU VRAM.
Яку GPU варто орендувати для генерації відео?
Відсортовано за тим, як часто ми рекомендуємо їх для цього робочого процесу. Ціна за GPU-годину — це місячна ціна, поділена на 720.
| GPU | VRAM | Пропускна здатність | Щотижня | Щомісяця | За GPU-годину | Наявність |
|---|---|---|---|---|---|---|
| RTX 5090Наш вибір: кліпи 720p, FP8, найшвидша пам’ять за долар | 32 GB GDDR7 | 1.79 TB/s | $155 | $540/mo | $0.75 | 100 |
| L40SПам’ять ECC, FP8, для запусків, що тривають днями | 48 GB GDDR6 ECC | 864 GB/s | $148 | $520/mo | $0.72 | 74 |
| RTX A6000Дешева ємність 48 GB, без FP8 | 48 GB GDDR6 ECC | 768 GB/s | $82 | $290/mo | $0.40 | 65 |
| RTX 6000 Ada48 GB з FP8 і драйверами для робочих станцій | 48 GB GDDR6 ECC | 960 GB/s | $130 | $460/mo | $0.64 | 26 |
| RTX 4090Батчі 480p, найбільший запас у флоті | 24 GB GDDR6X | 1.01 TB/s | $110 | $390/mo | $0.54 | 265 |
| RTX 3090Найдешевший спосіб протестувати пайплайн | 24 GB GDDR6X | 936 GB/s | $65 | $230/mo | $0.32 | 186 |
| H100 SXM80 GB і FP8, коли BF16 не вміщається | 80 GB HBM3 | 3.35 TB/s | $475 | $1,690/mo | $2.35 | 63 |
| H200 SXM1080p, довгі кліпи, батчі в одному процесі | 141 GB HBM3e | 4.8 TB/s | $640 | $2,290/mo | $3.18 | 19 |
RTX 5090 виграє цей робочий процес за пропускною здатністю на орендований долар. Її 1.79 TB/s — це 88% від 2.04 TB/s в A100 SXM, а оренда коштує $540 на місяць проти $990, і на кожному з понад п’ятдесяти кроків семплер читає одні й ті самі тензори. L40S з 48 GB і ECC коштує на $20 на місяць менше, дає на 16 GB більше запасу для десятисекундних кліпів і споживає 350 W проти 575 W. RTX A6000 за $290 — це дешевий спосіб отримати 48 GB, коли швидкість не є обмеженням. Переходьте на H100 SXM лише тоді, коли моделі потрібні 80 GB або FP8 на швидкості HBM.
Чому помісячний термін є правильною формою для генерації відео?
Тому що черга ніколи не порожня. Один кліп займає хвилини, а батч із кількох тисяч працює днями.
Виміряйте один кліп у власному пайплайні, потім помножте. Якщо кліп 720p займає шість хвилин, одна карта виробляє 10 на годину, 240 на день і 7,200 за 720-годинний місяць. При фіксованих $540 це $0.075 за кліп.
Лічильник бере плату за години, а цей робочий процес використовує їх усі. Карта, що генерує відео, не простоює між промптами — вона вже на наступному промпті, тож утилізація, яка робить погодинний білінг привабливим, ніколи не настає. Наш RTX 5090 за $540 — це $0.75 за GPU-годину, а наш L40S за $520 — це $0.72. Термін також не може бути витіснений, тому дев’ятиденну чергу рендерингу ніколи не перезапустить чужа ставка.
Тиждень коштує $155 на 5090, тобто $0.92 за GPU-годину, націнка 23%. Використайте його, щоб перевірити пайплайн, а потім переведіть його на місяць без перерозгортання. Повна арифметика беззбитковості на помісячна проти погодинної оренди GPU.
| RTX 5090, одна карта | Ціна | За GPU-годину |
|---|---|---|
| 1 тиждень168 годин | $155 | $0.92 |
| 1 місяць720 годин | $540 | $0.75 |
| 3 місяці передоплата−5% | $1,539 | $0.71 |
| 6 місяців передоплата−10% | $2,916 | $0.68 |
Куди йде відеовихід?
Кадри великі, а запуск створює їх швидше, ніж ви можете їх перемістити. Сховище та вихідний трафік — частина цього робочого процесу, а не примітка.
Локальний NVMe
500 GB на RTX 5090, L40S і RTX A6000, 250 GB на RTX 4090, 2 TB на H100 SXM і 3 TB на карту на B200, який продається по дві карти за раз, оскільки постачається на 8-way базовій платі. 8-way вузли HGX мають 16 TB, а вузол 8× B200 — 24 TB, проти 2–4 TB на вузлах PCIe. Шифрується на кожен інстанс за допомогою LUKS2.
Мережеві томи
З підтримкою NVMe, потрійна реплікація в регіоні, можна підключати до кількох інстансів одночасно, зберігається після вивільнення інстансу. Тут живе готова бібліотека.
Вихідний трафік
20 TB на місяць включено на кожен інстанс, далі $4 за TB, ніколи не обмежується. П’ятисекундний кліп 720p при 8 Mbit/s — це 5 MB, тож 20 TB — це приблизно чотири мільйони доставлених кліпів.
Ядра CPU для кодування
12 vCPU і 62 GB оперативної пам’яті на RTX 5090, 16 vCPU і 94 GB на L40S, 20 vCPU і 251 GB на H100 SXM. Достатньо, щоб запускати ffmpeg поруч із семплером.
Тримайте робочий набір на локальному NVMe і кодуйте ще до того, як він залишить машину. Записування PNG-послідовностей на мережевий том і витягування їх у сирому вигляді — саме так карта за $540 стає проблемою пропускної здатності. Підключення томів описано в документації.
Чи масштабується генерація відео на кілька GPU?
У межах одного кліпа — погано. У межах черги — ідеально. Ця різниця визначає, який вузол орендувати.
| Вузол | Щотижня | Щомісяця | За GPU-годину | Хост | NVMe |
|---|---|---|---|---|---|
| 8× RTX 5090PCIe Gen5 peer-to-peer | $1,120 | $3,890/mo | $0.68 | 96 vCPU · 496 GB | 4 TB |
| 8× L40SPCIe Gen4 peer-to-peer | $1,070 | $3,740/mo | $0.65 | 128 vCPU · 752 GB | 4 TB |
| 8× RTX 4090PCIe Gen4 peer-to-peer | $790 | $2,810/mo | $0.49 | 64 vCPU · 376 GB | 2 TB |
| 8× H100 SXMNVSwitch · 900 GB/s | $3,420 | $12,170/mo | $2.11 | 160 vCPU · 2 TB | 16 TB |
Для більшості відеопайплайнів правильна схема — один кліп на карту і вісім одночасно, тому що вузол PCIe не має швидкого шляху для розподілу однієї послідовності на 300,000 токенів між картами. Саме тому вузол 8× RTX 5090 за $0.68 за GPU-годину є кращою рендер-фермою, ніж вузол H100 за $2.11. Паралелізм пайплайну всередині одного кліпа, який потрібен лише тоді, коли модель не вміщається на жодній окремій карті, потребує NVSwitch, а це означає вузол 8× H100 SXM.
Коли не варто орендувати помісячний GPU для відео?
Три випадки, коли ми — неправильна відповідь, написані прямо, тому що ви все одно про це дізнаєтеся.
Якщо ви генеруєте сорок кліпів на тиждень, користуйтеся погодинним провайдером. Сорок кліпів по шість хвилин — це чотири години реальної роботи, а наш найкоротший термін — сім днів за $155. Це $38.75 за кожну реально використану годину GPU проти ілюстративних $0.60 на лічильнику. Термін виправдовує свою ціну лише тоді, коли черга глибока.
Якщо 24 GB достатньо для того, що ви випускаєте, не орендуйте 32 GB. RTX 4090 за $390 або RTX 3090 за $230 працює з 480p цілий місяць, а різниця купує другу карту. Збільшення розміру до вимірювання запуску — це спосіб переплатити тут.
І якщо вам потрібен керований API для відео, ми його не продаємо. Ви отримуєте bare metal, драйвер, карту на вибір і root. Шаблони включають ComfyUI та PyTorch 2.7 з CUDA 12.8, але пайплайн і черга — ваші для запуску.
Беріть термін, якщо
Черга працює днями, ендпоінт відповідає вночі, ви відвантажуєте достатньо результату, щоб вихідний трафік був реальним рядком витрат, або хочете платити криптовалютою без перевірки особи. Та сама логіка, що й у оренда GPU для Stable Diffusion, тільки з важчим тензором.
GPU для генерації відео зі ШІ: прості запитання.
Який GPU мені потрібен для генерації відео зі ШІ?
Скільки VRAM потрібно відеомоделі для кліпу 720p?
Чому довший кліп споживає набагато більше пам’яті, ніж довший батч зображень?
Чи дешевша помісячна оренда GPU за погодинну для генерації відео?
Скільки кліпів може згенерувати одна GPU за місяць?
Скільки сховища мені потрібно для виводу відео зі ШІ?
Чи перевіряєте ви відео, які я генерую?
Чи можу я орендувати GPU для генерації відео без KYC?
Платежі та час підтвердження на як працює оплата криптовалютою, затримки майданчиків і оператори зв’язку на сторінці дата-центрів, поточний стан флоту на сторінці статусу.
Черга рендерингу, яка стартує сьогодні вдень.
100 RTX 5090 і 74 L40S вільні прямо зараз у DFW-1 Даллас, IAD-1 Ешберн та PDX-1 Гілсборо. Root приблизно за дев’яносто секунд, без перевірки особи.