GPU voor AI-videogeneratie, geprijsd per maand.
GPU Rent Hub verhuurt dedicated NVIDIA RTX 5090 32GB-servers voor AI-videogeneratie voor $540 per maand, oftewel $0.75 per GPU-uur, betaald in Bitcoin, Ethereum, USDT, USDC, Monero, Solana of Litecoin zonder identiteitsverificatie.
Video is de meest geheugenintensieve en tijdrovende generatieve workload die er is, en precies dat maakt een vast termijn beter dan een uurtarief. Hier is de dimensioneringsberekening.
Wat heeft AI-videogeneratie van een GPU nodig?
Twee dingen, en ze zijn niet hetzelfde: genoeg VRAM om de run vast te houden, en genoeg uren om de wachtrij af te maken.
Een videomodel heeft tegelijk VRAM nodig voor vier dingen: de modelgewichten, de tekst-encoder, de latente videotensor en de activaties die ontstaan tijdens het denoisen. De latentie is een raster van frames gedeeld door de temporele compressiefactor, maal hoogte en breedte die elk door 8 zijn gedeeld. Elke positie in dat raster is een token waar de transformer aandacht aan besteedt, dus geheugen groeit lineair met het aantal frames en het pixeloppervlak, en het aandachtswerk groeit met ruwweg het kwadraat van het aantal tokens. Een clip van vijf seconden op 720p is geen iets grotere afbeelding. Eén 720p-frame is een latente 160 bij 90, 14,400 tokens; de clip is 160 bij 90 bij 21, dus 302,400 tokens. Dat is eenentwintig keer de sequentielengte en, in het kwadraat, ongeveer 440 keer het aandachtswerk.
De VAE-decodering aan het einde is vaak het hoogste geheugenpunt van de run, omdat die de latente representatie terug uitbreidt naar frames op volledige resolutie. Tiled decoding is waar mensen naar grijpen wanneer een taak op de laatste stap sterft.
Hoeveel VRAM heeft een videoclip van vijf seconden nodig?
Tel eerst de latente tokens. Uitgaande van een 8× ruimtelijke en 4× temporele VAE, 16 fps, en één activatietensor met breedte 1,536 in FP16.
| Clip | Latent raster | Tokens | Eén activatietensor | t.o.v. 480p | Aandachtswerk |
|---|---|---|---|---|---|
| 480p, 5 s832 × 480, 81 frames | 104 × 60 × 21 | 131,040 | 0.40 GB | 1.0× | 1.0× |
| 720p, 5 s1280 × 720, 81 frames | 160 × 90 × 21 | 302,400 | 0.93 GB | 2.3× | 5.3× |
| 720p, 10 s1280 × 720, 161 frames | 160 × 90 × 41 | 590,400 | 1.81 GB | 4.5× | 20× |
| 1080p, 5 s1920 × 1088, 81 frames | 240 × 136 × 21 | 685,440 | 2.11 GB | 5.2× | 27× |
Tel daar de gewichten bij
Parameters maal bytes per parameter. Een 5B-model is 10 GB in BF16 en 5 GB in FP8. Een 14B-model is 28 GB in BF16 en 14 GB in FP8. De tekst-encoder is het derde getal en de checkpoint bepaalt het: google/t5-v1_1-xxl is in totaal 11B parameters, 22 GB in BF16, maar alleen de encoder-toren, die beeld- en videoworkflows laden, is 4.7B, dus 9.4 GB. Hoe dan ook is dit de reden dat bijna iedereen hem één keer draait en weer vrijgeeft voordat het denoisen begint.
Die berekening bepaalt de kaart. Een 14B-model in FP8 met de encoder uitbesteed is 14 GB aan gewichten, wat een 32 GB-kaart ruimte laat voor 720p-activaties en een tiled decode. Hetzelfde model in BF16 is 28 GB en laat niets over.
Dimensioneringsregel
- 24 GB
- 480p, 5 s, FP8-gewichten, encoder uitbesteed
- 32 GB
- 720p, 5 s, FP8, tiled decode
- 48 GB
- 720p op 10 s, of korte 1080p, of BF16 op een 5B-model
- 80 GB
- 14B in BF16 zonder offloading, of een echte batch
- 141 GB+
- Lange 1080p-clips en multi-clipbatches in één proces
Wan 2.2 en Hunyuan Video verschijnen in verschillende formaten en precisies, en die veranderen tussen releases. De rekenkunde overleeft de release-opmerkingen. Kaartcapaciteit in de GPU VRAM-gids.
Welke GPU moet u huren voor videogeneratie?
Gesorteerd op hoe vaak we ze voor deze workload aanbevelen. Per GPU-uur is de maandprijs gedeeld door 720.
| GPU | VRAM | Bandbreedte | Wekelijks | Maandelijks | Per GPU-uur | Voorraad |
|---|---|---|---|---|---|---|
| RTX 5090De keuze: 720p-clips, FP8, snelste geheugen per dollar | 32 GB GDDR7 | 1.79 TB/s | $155 | $540/mo | $0.75 | 100 |
| L40SECC-geheugen, FP8, voor runs die in dagen worden gemeten | 48 GB GDDR6 ECC | 864 GB/s | $148 | $520/mo | $0.72 | 74 |
| RTX A6000Goedkope 48 GB-capaciteit, geen FP8 | 48 GB GDDR6 ECC | 768 GB/s | $82 | $290/mo | $0.40 | 65 |
| RTX 6000 Ada48 GB met FP8 en workstation-drivers | 48 GB GDDR6 ECC | 960 GB/s | $130 | $460/mo | $0.64 | 26 |
| RTX 4090480p-batches, grootste voorraad in de vloot | 24 GB GDDR6X | 1.01 TB/s | $110 | $390/mo | $0.54 | 265 |
| RTX 3090Goedkoopste manier om een pipeline te testen | 24 GB GDDR6X | 936 GB/s | $65 | $230/mo | $0.32 | 186 |
| H100 SXM80 GB en FP8 wanneer BF16 niet past | 80 GB HBM3 | 3.35 TB/s | $475 | $1,690/mo | $2.35 | 63 |
| H200 SXM1080p, lange clips, batches in één proces | 141 GB HBM3e | 4.8 TB/s | $640 | $2,290/mo | $3.18 | 19 |
De RTX 5090 wint deze workload op bandbreedte per gehuurde dollar. Zijn 1.79 TB/s is 88% van de 2.04 TB/s van een A100 SXM en wordt verhuurd voor $540 per maand tegenover $990, en sampling leest op elk van de ruim vijftig stappen dezelfde tensoren. De L40S met 48 GB en ECC kost $20 per maand minder, biedt 16 GB meer speelruimte voor clips van tien seconden en verbruikt 350 W tegenover 575 W. De RTX A6000 voor $290 is de goedkope manier om 48 GB te bezetten wanneer snelheid niet de beperking is. Ga alleen naar H100 SXM wanneer het model 80 GB of FP8 op HBM-snelheid wil.
Waarom is een maandtermijn de juiste vorm voor videogeneratie?
Omdat de wachtrij nooit leeg is. Eén clip kost minuten en een batch van een paar duizend runs duurt dagen.
Meet één clip in uw eigen pipeline en vermenigvuldig dan. Als een 720p-clip zes minuten kost, produceert één kaart 10 per uur, 240 per dag en 7,200 in een maand van 720 uur. Bij een vast bedrag van $540 is dat $0.075 per clip.
Een uurtarief rekent uren af en deze workload gebruikt ze allemaal. Een kaart die video genereert, staat tussen prompts niet stil; hij draait de volgende prompt, dus de bezettingsgraad die uurtarief aantrekkelijk maakt, komt nooit. Onze RTX 5090 voor $540 is $0.75 per GPU-uur en onze L40S voor $520 is $0.72. Een termijn kan bovendien niet worden gepreempt, dus een renderwachtrij van negen dagen wordt nooit herstart door een bod van iemand anders.
Een week kost $155 op de 5090, oftewel $0.92 per GPU-uur, een premie van 23%. Gebruik die om een pipeline te bewijzen en zet hem daarna om zonder opnieuw te provisioneren. Volledige break-evenberekening op maandelijkse versus uurlijkse GPU-verhuur.
| RTX 5090, één kaart | Prijs | Per GPU-uur |
|---|---|---|
| 1 week168 uur | $155 | $0.92 |
| 1 maand720 uur | $540 | $0.75 |
| 3 maanden vooruitbetaald−5% | $1,539 | $0.71 |
| 6 maanden vooruitbetaald−10% | $2,916 | $0.68 |
Waar gaat de video-uitvoer naartoe?
Frames zijn groot, en een run maakt ze sneller dan u ze kunt verplaatsen. Opslag en uitgaand verkeer horen bij deze workload, niet in een voetnoot.
Lokale NVMe
500 GB op de RTX 5090, L40S en RTX A6000, 250 GB op de RTX 4090, 2 TB op de H100 SXM en 3 TB per kaart op de B200, die per twee kaarten tegelijk wordt verkocht omdat hij op een 8-way baseboard wordt geleverd. De 8-way HGX-nodes dragen 16 TB en het 8× B200-node 24 TB, tegenover 2 tot 4 TB op de PCIe-nodes. Per instantie versleuteld met LUKS2.
Netwerkvolumes
Ondersteund door NVMe, drievoudig gerepliceerd binnen de regio, tegelijk aan meerdere instanties te koppelen en bewaard nadat de instantie is vrijgegeven. Hier staat een voltooide bibliotheek.
Uitgaande bandbreedte
20 TB per maand inbegrepen per instantie, daarna $4 per TB, nooit geknepen. Een 720p-clip van vijf seconden op 8 Mbit/s is 5 MB, dus 20 TB is ongeveer vier miljoen geleverde clips.
CPU-cores voor encoderen
12 vCPU en 62 GB RAM op de RTX 5090, 16 vCPU en 94 GB op de L40S, 20 vCPU en 251 GB op de H100 SXM. Genoeg om ffmpeg naast de sampler te draaien.
Houd de werkset op lokale NVMe en encodeer voordat die de machine verlaat. PNG-reeksen naar een netwerkvolume schrijven en ze onbewerkt binnenhalen is hoe een kaart van $540 een bandbreedteprobleem wordt. Het koppelen van volumes wordt behandeld in de documentatie.
Schaalt videogeneratie over meerdere GPU's?
Binnen één clip slecht. Over een wachtrij perfect. Dat onderscheid bepaalt welk node u huurt.
| Node | Wekelijks | Maandelijks | Per GPU-uur | Host | NVMe |
|---|---|---|---|---|---|
| 8× RTX 5090PCIe Gen5 peer-to-peer | $1,120 | $3,890/mo | $0.68 | 96 vCPU · 496 GB | 4 TB |
| 8× L40SPCIe Gen4 peer-to-peer | $1,070 | $3,740/mo | $0.65 | 128 vCPU · 752 GB | 4 TB |
| 8× RTX 4090PCIe Gen4 peer-to-peer | $790 | $2,810/mo | $0.49 | 64 vCPU · 376 GB | 2 TB |
| 8× H100 SXMNVSwitch · 900 GB/s | $3,420 | $12,170/mo | $2.11 | 160 vCPU · 2 TB | 16 TB |
Voor de meeste videopipelines is het juiste patroon één clip per kaart en acht tegelijk in de lucht, omdat een PCIe-node geen snel pad heeft om één reeks van 300,000 tokens over kaarten te splitsen. Daarom is het 8× RTX 5090-node voor $0.68 per GPU-uur een betere renderfarm dan een H100-node van $2.11. Pipelineparallellisme binnen één clip, dat u alleen nodig hebt wanneer het model op geen enkele kaart past, vraagt om NVSwitch, en dat betekent het 8× H100 SXM-node.
Wanneer moet u geen maandelijkse GPU voor video huren?
Drie gevallen waarin wij het verkeerde antwoord zijn, duidelijk opgeschreven omdat u er toch achter zou komen.
Als u veertig clips per week genereert, gebruik dan een aanbieder met uurtarief. Veertig clips van zes minuten is vier uur echt werk, en onze kortste termijn is zeven dagen voor $155. Dat is $38.75 voor elk uur GPU-tijd dat u werkelijk gebruikt, tegenover een illustratieve $0.60 op een uurtarief. Een termijn verdient zijn prijs alleen wanneer de wachtrij diep is.
Als 24 GB genoeg is voor wat u oplevert, huur dan geen 32 GB. De RTX 4090 voor $390 of de RTX 3090 voor $230 draait de hele maand 480p-werk, en het verschil koopt een tweede kaart. Groter dimensioneren voordat u een run meet, is hoe mensen hier te veel betalen.
En als u een beheerde video-API wilt, die verkopen wij niet. U krijgt een kale machine, een driver, een kaart naar keuze en root. Templates bevatten ComfyUI en PyTorch 2.7 met CUDA 12.8, maar de pipeline en de wachtrij zijn van u om te draaien.
Neem een termijn als
De wachtrij dagenlang draait, het endpoint 's nachts antwoordt, u genoeg output levert dat uitgaand verkeer een echte kostenpost is, of u in crypto wilt betalen zonder identiteitscontrole. Dezelfde redenering als GPU-verhuur voor Stable Diffusion, met een zwaardere tensor.
GPU voor AI-videogeneratie, duidelijk gevraagd.
Welke GPU heb ik nodig voor AI-videogeneratie?
Hoeveel VRAM heeft een videomodel nodig voor een 720p-clip?
Waarom kost een langere clip zoveel meer geheugen dan een langere beeldbatch?
Is maandelijkse GPU-verhuur goedkoper dan uurtarief voor videogeneratie?
Hoeveel clips kan één GPU in een maand genereren?
Hoeveel opslag heb ik nodig voor AI-video-uitvoer?
Inspecteert u de video's die ik genereer?
Kan ik een GPU voor videogeneratie huren zonder KYC?
Betalingen en bevestigingstijden op hoe cryptobetaling werkt, sitelatentie en carriers op de datacenterpagina, live vlootstatus op de statuspagina.
Een renderwachtrij die vanmiddag begint.
100 RTX 5090 en 74 L40S nu vrij in DFW-1 Dallas, IAD-1 Ashburn en PDX-1 Hillsboro. Root in ongeveer negentig seconden, geen identiteitscontrole.