GPU per la generazione video con IA, a prezzo mensile.
GPU Rent Hub noleggia server dedicati NVIDIA RTX 5090 32GB per la generazione video con IA a $540 al mese, pari a $0.75 per GPU-ora, pagati in Bitcoin, Ethereum, USDT, USDC, Monero, Solana o Litecoin senza verifica dell'identità.
Il video è il carico di lavoro generativo che consuma più memoria e più tempo in assoluto, ed è proprio questo che rende un canone fisso più conveniente di una tariffa a consumo. Ecco l'aritmetica del dimensionamento.
Cosa richiede la generazione video con IA da una GPU?
Due cose, e non sono la stessa cosa: abbastanza VRAM per sostenere l'esecuzione e abbastanza ore per smaltire la coda.
Un modello video ha bisogno di VRAM per quattro cose contemporaneamente: i pesi del modello, il text encoder, il tensore latente del video e le attivazioni prodotte durante il denoising. Il latente è una griglia di frame divisa per il fattore di compressione temporale, moltiplicato per altezza e larghezza ciascuna divisa per 8. Ogni posizione in quella griglia è un token su cui il transformer presta attenzione, quindi la memoria cresce linearmente con il numero di frame e l'area dei pixel, e il lavoro di attenzione cresce all'incirca con il quadrato del numero di token. Una clip di cinque secondi a 720p non è un'immagine leggermente più grande. Un frame 720p è un latente 160 per 90, 14,400 token; la clip è 160 per 90 per 21, quindi 302,400 token. È una sequenza ventuno volte più lunga e, al quadrato, circa 440 volte il lavoro di attenzione.
La decodifica VAE alla fine è spesso il punto di massimo utilizzo di memoria dell'esecuzione, perché riporta il latente a frame a piena risoluzione. La decodifica a riquadri è la soluzione a cui si ricorre quando un job muore all'ultimo passaggio.
Quanta VRAM richiede una clip video di cinque secondi?
Conta prima i token latenti. Presuppone un VAE con compressione spaziale 8× e temporale 4×, 16 fps e un tensore di attivazione a larghezza 1,536 in FP16.
| Clip | Griglia latente | Token | Un tensore di attivazione | vs 480p | Lavoro di attenzione |
|---|---|---|---|---|---|
| 480p, 5 s832 × 480, 81 fotogrammi | 104 × 60 × 21 | 131,040 | 0.40 GB | 1.0× | 1.0× |
| 720p, 5 s1280 × 720, 81 fotogrammi | 160 × 90 × 21 | 302,400 | 0.93 GB | 2.3× | 5.3× |
| 720p, 10 s1280 × 720, 161 fotogrammi | 160 × 90 × 41 | 590,400 | 1.81 GB | 4.5× | 20× |
| 1080p, 5 s1920 × 1088, 81 fotogrammi | 240 × 136 × 21 | 685,440 | 2.11 GB | 5.2× | 27× |
Poi aggiungete i pesi
Parametri per byte per parametro. Un modello da 5B corrisponde a 10 GB in BF16 e 5 GB in FP8. Un modello da 14B corrisponde a 28 GB in BF16 e 14 GB in FP8. Il text encoder è il terzo numero e lo decide il checkpoint: google/t5-v1_1-xxl ha 11B di parametri in totale, 22 GB in BF16, ma la sola torre encoder, che è ciò che caricano i flussi di lavoro per immagini e video, è da 4.7B, quindi 9.4 GB. In ogni caso è il motivo per cui quasi tutti lo eseguono una volta e lo liberano prima che inizi il denoising.
Quell'aritmetica decide la scheda. Un modello da 14B in FP8 con l'encoder scaricato corrisponde a 14 GB di pesi, il che lascia a una scheda da 32 GB spazio per le attivazioni a 720p e una decodifica a riquadri. Lo stesso modello in BF16 occupa 28 GB e non lascia nulla.
Regola di dimensionamento
- 24 GB
- 480p, 5 s, pesi FP8, encoder scaricato
- 32 GB
- 720p, 5 s, FP8, decodifica a riquadri
- 48 GB
- 720p a 10 s, oppure 1080p corti, oppure BF16 su un modello da 5B
- 80 GB
- 14B in BF16 senza scaricamento, oppure un batch reale
- 141 GB+
- Clip 1080p lunghe e batch multi-clip in un unico processo
Wan 2.2 e Hunyuan Video sono distribuiti in diverse dimensioni e precisioni, e queste cambiano tra una release e l'altra. L'aritmetica sopravvive alle note di rilascio. Capacità delle schede nella guida alla VRAM delle GPU.
Quale GPU conviene noleggiare per la generazione video?
Ordinate in base alla frequenza con cui le consigliamo per questo carico di lavoro. Il costo per GPU-ora è il prezzo mensile diviso per 720.
| GPU | VRAM | Larghezza di banda | Settimanale | Mensile | Per GPU-ora | Disponibilità |
|---|---|---|---|---|---|---|
| RTX 5090La scelta: clip 720p, FP8, la memoria più veloce per dollaro | 32 GB GDDR7 | 1.79 TB/s | $155 | $540/mo | $0.75 | 100 |
| L40SMemoria ECC, FP8, per esecuzioni che durano giorni | 48 GB GDDR6 ECC | 864 GB/s | $148 | $520/mo | $0.72 | 74 |
| RTX A6000Capacità da 48 GB economica, niente FP8 | 48 GB GDDR6 ECC | 768 GB/s | $82 | $290/mo | $0.40 | 65 |
| RTX 6000 Ada48 GB con FP8 e driver workstation | 48 GB GDDR6 ECC | 960 GB/s | $130 | $460/mo | $0.64 | 26 |
| RTX 4090Batch 480p, la disponibilità più ampia della flotta | 24 GB GDDR6X | 1.01 TB/s | $110 | $390/mo | $0.54 | 265 |
| RTX 3090Il modo più economico per testare una pipeline | 24 GB GDDR6X | 936 GB/s | $65 | $230/mo | $0.32 | 186 |
| H100 SXM80 GB e FP8 quando il BF16 non entra | 80 GB HBM3 | 3.35 TB/s | $475 | $1,690/mo | $2.35 | 63 |
| H200 SXM1080p, clip lunghe, batch in un unico processo | 141 GB HBM3e | 4.8 TB/s | $640 | $2,290/mo | $3.18 | 19 |
La RTX 5090 vince questo carico di lavoro per larghezza di banda per dollaro noleggiato. I suoi 1.79 TB/s sono l'88% dei 2.04 TB/s di una A100 SXM e si noleggia a $540 al mese contro $990, e il campionamento legge gli stessi tensori a ognuna delle sue cinquanta e passa iterazioni. La L40S con 48 GB ed ECC costa $20 al mese in meno, offre 16 GB di margine in più per clip da dieci secondi e assorbe 350 W contro 575 W. La RTX A6000 a $290 è il modo economico per avere 48 GB quando la velocità non è il vincolo. Passate alla H100 SXM solo quando il modello richiede 80 GB o FP8 a velocità HBM.
Perché un abbonamento mensile è la forma giusta per la generazione video?
Perché la coda non è mai vuota. Una clip richiede minuti e un batch di qualche migliaio di clip occupa la macchina per giorni.
Misurate una clip sulla vostra pipeline e poi moltiplicate. Se una clip 720p richiede sei minuti, una scheda ne produce 10 all'ora, 240 al giorno e 7,200 in un mese da 720 ore. A un canone fisso di $540, sono $0.075 a clip.
Una tariffa a consumo fa pagare le ore e questo carico di lavoro le usa tutte. Una scheda che genera video non resta inattiva tra un prompt e l'altro, passa al prompt successivo, quindi l'utilizzo che rende attraente la fatturazione oraria non arriva mai. La nostra RTX 5090 a $540 corrisponde a $0.75 per GPU-ora e la nostra L40S a $520 a $0.72. Un contratto a termine, inoltre, non può essere sospeso per prelazione, quindi una coda di rendering di nove giorni non viene mai riavviata dall'offerta di qualcun altro.
Una settimana costa $155 sulla 5090, pari a $0.92 per GPU-ora, un sovrapprezzo del 23%. Usatela per validare una pipeline e poi convertite senza dover riprovisionare. L'aritmetica completa del pareggio in noleggio GPU mensile o orario.
| RTX 5090, una scheda | Prezzo | Per GPU-ora |
|---|---|---|
| 1 settimana168 ore | $155 | $0.92 |
| 1 mese720 ore | $540 | $0.75 |
| 3 mesi prepagati−5% | $1,539 | $0.71 |
| 6 mesi prepagati−10% | $2,916 | $0.68 |
Dove finisce il video in uscita?
I frame sono grandi e un'esecuzione li produce più velocemente di quanto possiate spostarli. Storage e traffico in uscita fanno parte di questo carico di lavoro, non sono una nota a piè di pagina.
NVMe locale
500 GB su RTX 5090, L40S e RTX A6000, 250 GB su RTX 4090, 2 TB su H100 SXM e 3 TB per scheda sul B200, che viene venduto due schede alla volta perché arriva su una baseboard a 8 vie. I nodi HGX a 8 vie dispongono di 16 TB e il nodo 8× B200 di 24 TB, contro i 2-4 TB dei nodi PCIe. Crittografato per istanza con LUKS2.
Volumi di rete
Basati su NVMe, con tripla replica nella stessa regione, collegabili a più istanze contemporaneamente e conservati dopo il rilascio dell'istanza. È lì che vive una libreria finita.
Larghezza di banda in uscita
20 TB al mese inclusi per istanza, poi $4 per TB, mai limitata. Una clip 720p da cinque secondi a 8 Mbit/s pesa 5 MB, quindi 20 TB equivalgono a circa quattro milioni di clip consegnate.
Core CPU per l'encoding
12 vCPU e 62 GB di RAM sulla RTX 5090, 16 vCPU e 94 GB sulla L40S, 20 vCPU e 251 GB sulla H100 SXM. Abbastanza per eseguire ffmpeg accanto al campionatore.
Tenete il set di lavoro sul NVMe locale e fate l'encoding prima che esca dalla macchina. Scrivere sequenze PNG su un volume di rete e scaricarle grezze è il modo in cui una scheda da $540 diventa un problema di banda. Il collegamento dei volumi è trattato nella documentazione.
La generazione video scala su più GPU?
All'interno di una singola clip, male. Su una coda, perfettamente. È questa distinzione a decidere quale nodo noleggiare.
| Nodo | Settimanale | Mensile | Per GPU-ora | Host | NVMe |
|---|---|---|---|---|---|
| 8× RTX 5090PCIe Gen5 peer-to-peer | $1,120 | $3,890/mo | $0.68 | 96 vCPU · 496 GB | 4 TB |
| 8× L40SPCIe Gen4 peer-to-peer | $1,070 | $3,740/mo | $0.65 | 128 vCPU · 752 GB | 4 TB |
| 8× RTX 4090PCIe Gen4 peer-to-peer | $790 | $2,810/mo | $0.49 | 64 vCPU · 376 GB | 2 TB |
| 8× H100 SXMNVSwitch · 900 GB/s | $3,420 | $12,170/mo | $2.11 | 160 vCPU · 2 TB | 16 TB |
Per la maggior parte delle pipeline video lo schema corretto è una clip per scheda e otto in esecuzione contemporanea, perché un nodo PCIe non ha un percorso veloce per dividere una singola sequenza da 300,000 token tra le schede. È per questo che il nodo 8× RTX 5090 a $0.68 per GPU-ora è una render farm migliore di un nodo H100 da $2.11. Il parallelismo a pipeline all'interno di una singola clip, necessario solo quando il modello non sta su nessuna singola scheda, richiede NVSwitch, e questo significa il nodo 8× H100 SXM.
Quando non dovreste noleggiare una GPU mensile per il video?
Tre casi in cui siamo la risposta sbagliata, scritti chiaramente perché tanto li scoprireste comunque.
Se generate quaranta clip a settimana, usate un provider orario. Quaranta clip a sei minuti sono quattro ore di lavoro effettivo, e il nostro contratto più breve è di sette giorni a $155. Sono $38.75 per ogni ora di GPU effettivamente usata, contro un illustrativo $0.60 a consumo. Un contratto a termine guadagna il suo prezzo solo quando la coda è profonda.
Se 24 GB bastano per ciò che consegnate, non noleggiate 32 GB. La RTX 4090 a $390 o la RTX 3090 a $230 esegue i lavori a 480p per tutto il mese, e la differenza paga una seconda scheda. Dimensionare in eccesso prima di misurare un'esecuzione è il modo in cui si finisce per pagare troppo.
E se volete un'API video gestita, non la vendiamo. Avete una macchina bare, un driver, una scheda a vostra scelta e l'accesso root. I template includono ComfyUI e PyTorch 2.7 con CUDA 12.8, ma la pipeline e la coda spettano a voi.
Scegliete un contratto se
La coda dura giorni, l'endpoint risponde durante la notte, consegnate abbastanza output da rendere il traffico in uscita una voce di costo reale, oppure volete pagare in crypto senza un controllo d'identità. Stesso ragionamento del noleggio GPU per Stable Diffusion, con un tensore più pesante.
GPU per la generazione video con IA, domande dirette.
Quale GPU mi serve per la generazione video con IA?
Quanta VRAM serve a un modello video per una clip 720p?
Perché una clip più lunga costa così tanta memoria in più rispetto a un batch di immagini più lungo?
Il noleggio mensile di una GPU è più economico di quello orario per la generazione video?
Quante clip può generare una GPU in un mese?
Quanto storage mi serve per l'output video con IA?
Controllate i video che genero?
Posso noleggiare una GPU per la generazione video senza KYC?
Pagamenti e tempi di conferma su come funziona il pagamento in crypto, latenza e carrier per sito nella pagina dei datacenter, stato della flotta in tempo reale nella pagina di stato.
Una coda di rendering che parte questo pomeriggio.
100 RTX 5090 e 74 L40S libere in questo momento tra DFW-1 Dallas, IAD-1 Ashburn e PDX-1 Hillsboro. Root in circa novanta secondi, nessun controllo d'identità.