GPU pour la génération vidéo par IA, facturé au mois.
GPU Rent Hub loue des serveurs dédiés NVIDIA RTX 5090 32GB pour la génération vidéo par IA à 540 $ par mois, soit 0,75 $ par GPU-heure, payables en Bitcoin, Ethereum, USDT, USDC, Monero, Solana ou Litecoin sans vérification d'identité.
La vidéo est la charge de travail générative la plus gourmande en mémoire et en temps qui soit, ce qui est exactement ce qui fait qu'un forfait fixe bat un compteur horaire. Voici l'arithmétique du dimensionnement.
De quoi la génération vidéo par IA a-t-elle besoin de la part d’un GPU ?
Deux choses, et ce ne sont pas la même chose : assez de VRAM pour tenir l’exécution, et assez d’heures pour finir la file d’attente.
Un modèle vidéo a besoin de VRAM pour quatre choses à la fois : les poids du modèle, l’encodeur de texte, le tenseur vidéo latent et les activations produites pendant son débruitage. Le latent est une grille d’images divisée par le facteur de compression temporel, multipliée par la hauteur et la largeur chacune divisées par 8. Chaque position de cette grille est un jeton sur lequel le transformeur applique l’attention ; la mémoire croît donc linéairement avec le nombre d’images et la surface en pixels, et le travail d’attention croît à peu près avec le carré du nombre de jetons. Un clip de cinq secondes en 720p n’est pas une image un peu plus grande. Une image 720p est un latent de 160 par 90, soit 14,400 jetons ; le clip est de 160 par 90 par 21, soit 302,400 jetons. C’est vingt et une fois la longueur de séquence et, au carré, environ 440 fois le travail d’attention.
Le décodage VAE à la fin est souvent le point de mémoire le plus élevé de l’exécution, car il réétend le latent en images pleine résolution. Le décodage par tuiles est ce que l’on utilise quand un travail meurt à la dernière étape.
De quelle quantité de VRAM un clip vidéo de cinq secondes a-t-il besoin ?
Comptez d’abord les jetons latents. Suppose un VAE spatial 8× et temporel 4×, 16 fps, et un tenseur d’activation de largeur 1,536 en FP16.
| Clip | Grille latente | Jetons | Un tenseur d’activation | vs 480p | Travail d’attention |
|---|---|---|---|---|---|
| 480p, 5 s832 × 480, 81 images | 104 × 60 × 21 | 131,040 | 0.40 GB | 1.0× | 1.0× |
| 720p, 5 s1280 × 720, 81 images | 160 × 90 × 21 | 302,400 | 0.93 GB | 2.3× | 5.3× |
| 720p, 10 s1280 × 720, 161 images | 160 × 90 × 41 | 590,400 | 1.81 GB | 4.5× | 20× |
| 1080p, 5 s1920 × 1088, 81 images | 240 × 136 × 21 | 685,440 | 2.11 GB | 5.2× | 27× |
Ajoutez ensuite les poids
Paramètres multipliés par octets par paramètre. Un modèle 5B représente 10 GB en BF16 et 5 GB en FP8. Un modèle 14B représente 28 GB en BF16 et 14 GB en FP8. L’encodeur de texte est le troisième nombre et le checkpoint en décide : google/t5-v1_1-xxl fait 11B paramètres en tout, 22 GB en BF16, mais la tour d’encodeur seule, qui est ce que chargent les flux de travail image et vidéo, fait 4,7B, soit 9,4 GB. Dans tous les cas, c’est pourquoi presque tout le monde l’exécute une fois puis le libère avant le début du débruitage.
Cette arithmétique décide de la carte. Un modèle 14B en FP8 avec l’encodeur déchargé représente 14 GB de poids, ce qui laisse à une carte de 32 GB de la place pour les activations 720p et un décodage par tuiles. Le même modèle en BF16 représente 28 GB et ne laisse rien.
Règle de dimensionnement
- 24 GB
- 480p, 5 s, poids FP8, encodeur déchargé
- 32 GB
- 720p, 5 s, FP8, décodage par tuiles
- 48 GB
- 720p à 10 s, ou 1080p court, ou BF16 sur un modèle 5B
- 80 GB
- 14B en BF16 sans déchargement, ou un vrai lot
- 141 GB+
- Longs clips 1080p et lots multi-clips dans un même processus
Wan 2.2 et Hunyuan Video sont livrés en plusieurs tailles et précisions, et celles-ci changent entre les versions. L’arithmétique survit aux notes de version. Capacité des cartes dans le guide de VRAM GPU.
Quel GPU louer pour la génération vidéo ?
Triées selon la fréquence à laquelle nous les recommandons pour cette charge de travail. Le prix par GPU-heure est le prix mensuel divisé par 720.
| GPU | VRAM | Bande passante | Hebdomadaire | Mensuel | Par GPU-heure | Stock |
|---|---|---|---|---|---|---|
| RTX 5090Le choix : clips 720p, FP8, mémoire la plus rapide par dollar | 32 GB GDDR7 | 1.79 TB/s | $155 | $540/mo | $0.75 | 100 |
| L40SMémoire ECC, FP8, pour des exécutions qui se mesurent en jours | 48 GB GDDR6 ECC | 864 GB/s | $148 | $520/mo | $0.72 | 74 |
| RTX A6000Capacité 48 GB bon marché, pas de FP8 | 48 GB GDDR6 ECC | 768 GB/s | $82 | $290/mo | $0.40 | 65 |
| RTX 6000 Ada48 GB avec FP8 et pilotes de station de travail | 48 GB GDDR6 ECC | 960 GB/s | $130 | $460/mo | $0.64 | 26 |
| RTX 4090Lots 480p, le plus grand stock de la flotte | 24 GB GDDR6X | 1.01 TB/s | $110 | $390/mo | $0.54 | 265 |
| RTX 3090Le moyen le moins cher de tester un pipeline | 24 GB GDDR6X | 936 GB/s | $65 | $230/mo | $0.32 | 186 |
| H100 SXM80 GB et FP8 quand le BF16 ne rentre pas | 80 GB HBM3 | 3.35 TB/s | $475 | $1,690/mo | $2.35 | 63 |
| H200 SXM1080p, longs clips, lots dans un même processus | 141 GB HBM3e | 4.8 TB/s | $640 | $2,290/mo | $3.18 | 19 |
La RTX 5090 gagne cette charge de travail sur la bande passante par dollar loué. Ses 1,79 TB/s représentent 88 % des 2,04 TB/s d’une A100 SXM, et elle se loue 540 $ par mois contre 990 $, et l’échantillonnage lit les mêmes tenseurs à chacune de ses cinquante et quelques étapes. La L40S avec 48 GB et ECC coûte 20 $ de moins par mois, offre 16 GB de marge supplémentaire pour les clips de dix secondes, et consomme 350 W contre 575 W. La RTX A6000 à 290 $ est le moyen bon marché de disposer de 48 GB quand la vitesse n’est pas la contrainte. Passez à la H100 SXM uniquement quand le modèle exige 80 GB ou le FP8 à la vitesse HBM.
Pourquoi un engagement mensuel est-il la bonne forme pour la génération vidéo ?
Parce que la file d’attente n’est jamais vide. Un clip prend des minutes et un lot de quelques milliers s’exécute pendant des jours.
Mesurez un clip sur votre propre pipeline, puis multipliez. Si un clip 720p prend six minutes, une carte produit 10 clips par heure, 240 par jour et 7,200 sur un mois de 720 heures. À 540 $ forfaitaires, cela fait $0.075 par clip.
Un compteur facture les heures et cette charge de travail les utilise toutes. Une carte qui génère de la vidéo n’est pas inactive entre les invites, elle passe à l’invite suivante, si bien que l’utilisation qui rend la facturation horaire attrayante n’arrive jamais. Notre RTX 5090 à 540 $ revient à 0,75 $ par GPU-heure et notre L40S à 520 $ à 0,72 $. Un engagement ne peut pas non plus être préempté, donc une file de rendu de neuf jours n’est jamais redémarrée par l’enchère de quelqu’un d’autre.
Une semaine coûte 155 $ sur la 5090, soit 0,92 $ par GPU-heure, une prime de 23 %. Utilisez-la pour valider un pipeline, puis convertissez sans reprovisionner. L’arithmétique complète du point mort figure sur location GPU mensuelle ou horaire.
| RTX 5090, une carte | Prix | Par GPU-heure |
|---|---|---|
| 1 semaine168 heures | $155 | $0.92 |
| 1 mois720 heures | $540 | $0.75 |
| 3 mois prépayés−5% | $1,539 | $0.71 |
| 6 mois prépayés−10% | $2,916 | $0.68 |
Où va la sortie vidéo ?
Les images sont volumineuses, et une exécution les produit plus vite que vous ne pouvez les déplacer. Le stockage et la sortie font partie de cette charge de travail, pas une note de bas de page.
NVMe local
500 GB sur la RTX 5090, la L40S et la RTX A6000, 250 GB sur la RTX 4090, 2 TB sur la H100 SXM et 3 TB par carte sur le B200, qui est vendu deux cartes à la fois car il est livré sur une carte de base 8 voies. Les nœuds HGX 8 voies embarquent 16 TB et le nœud 8× B200 24 TB, contre 2 à 4 TB sur les nœuds PCIe. Chiffré par instance avec LUKS2.
Volumes réseau
Adossés à du NVMe, triplement répliqués dans la région, attachables à plusieurs instances à la fois et conservés après la libération de l’instance. Là où vit une bibliothèque finie.
Bande passante sortante
20 TB par mois inclus par instance, puis 4 $ par TB, jamais limitée. Un clip 720p de cinq secondes à 8 Mbit/s représente 5 MB, donc 20 TB équivalent à environ quatre millions de clips livrés.
Cœurs de processeur pour l’encodage
12 vCPU et 62 GB de RAM sur la RTX 5090, 16 vCPU et 94 GB sur la L40S, 20 vCPU et 251 GB sur la H100 SXM. De quoi exécuter ffmpeg à côté de l’échantillonneur.
Gardez l’ensemble de travail sur le NVMe local et encodez avant qu’il ne quitte la machine. Écrire des séquences PNG sur un volume réseau puis les rapatrier brutes est la façon dont une carte à 540 $ devient un problème de bande passante. L’attachement des volumes est couvert dans la documentation.
La génération vidéo passe-t-elle à l’échelle sur plusieurs GPU ?
Au sein d’un même clip, mal. Sur une file d’attente, parfaitement. Cette distinction détermine le nœud à louer.
| Nœud | Hebdomadaire | Mensuel | Par GPU-heure | Hôte | NVMe |
|---|---|---|---|---|---|
| 8× RTX 5090PCIe Gen5 peer-to-peer | $1,120 | $3,890/mo | $0.68 | 96 vCPU · 496 GB | 4 TB |
| 8× L40SPCIe Gen4 peer-to-peer | $1,070 | $3,740/mo | $0.65 | 128 vCPU · 752 GB | 4 TB |
| 8× RTX 4090PCIe Gen4 peer-to-peer | $790 | $2,810/mo | $0.49 | 64 vCPU · 376 GB | 2 TB |
| 8× H100 SXMNVSwitch · 900 GB/s | $3,420 | $12,170/mo | $2.11 | 160 vCPU · 2 TB | 16 TB |
Pour la plupart des pipelines vidéo, le bon schéma est un clip par carte et huit en vol, car un nœud PCIe n’a pas de chemin rapide pour découper une séquence unique de 300,000 jetons entre plusieurs cartes. C’est pourquoi le nœud 8× RTX 5090 à 0,68 $ par GPU-heure constitue une meilleure ferme de rendu qu’un nœud H100 à 2,11 $. Le parallélisme de pipeline au sein d’un même clip, dont vous n’avez besoin que lorsque le modèle ne tient sur aucune carte seule, exige NVSwitch, et cela signifie le nœud 8× H100 SXM.
Quand ne pas louer un GPU mensuel pour la vidéo ?
Trois cas où nous sommes la mauvaise réponse, écrits clairement parce que vous le découvririez de toute façon.
Si vous générez quarante clips par semaine, utilisez un fournisseur horaire. Quarante clips à six minutes représentent quatre heures de travail réel, et notre terme le plus court est de sept jours à 155 $. Cela fait 38,75 $ pour chaque heure de GPU réellement utilisée, contre un illustratif 0,60 $ sur un compteur. Un engagement ne vaut son prix que lorsque la file d’attente est profonde.
Si 24 GB suffisent pour ce que vous livrez, ne louez pas 32 GB. La RTX 4090 à 390 $ ou la RTX 3090 à 230 $ exécute du travail 480p tout le mois, et la différence permet d’acheter une deuxième carte. Surdimensionner avant d’avoir mesuré une exécution, c’est ainsi que l’on paie trop cher ici.
Et si vous voulez une API vidéo gérée, nous n’en vendons pas. Vous obtenez une machine nue, un pilote, une carte de votre choix et root. Les modèles incluent ComfyUI et PyTorch 2.7 avec CUDA 12.8, mais le pipeline et la file d’attente sont à vous de gérer.
Prenez un engagement si
La file d’attente s’exécute pendant des jours, le point de terminaison répond du jour au lendemain, vous livrez assez de sortie pour que la sortie soit un poste de coût réel, ou vous voulez payer en crypto sans vérification d’identité. Même raisonnement que pour la location de GPU pour Stable Diffusion, avec un tenseur plus lourd.
GPU pour la génération vidéo par IA, demandé simplement.
De quel GPU ai-je besoin pour la génération vidéo par IA ?
Combien de VRAM faut-il à un modèle vidéo pour un clip 720p ?
Pourquoi un clip plus long coûte-t-il tellement plus de mémoire qu’un lot d’images plus long ?
Une location de GPU mensuelle est-elle moins chère qu’horaire pour la génération vidéo ?
Combien de clips un GPU peut-il générer en un mois ?
De combien de stockage ai-je besoin pour la sortie vidéo par IA ?
Inspectez-vous les vidéos que je génère ?
Puis-je louer un GPU pour la génération vidéo sans KYC ?
Paiements et délais de confirmation sur comment fonctionne le paiement crypto, latence des sites et opérateurs sur la page des datacenters, état de la flotte en direct sur la page d’état.
Une file de rendu qui démarre cet après-midi.
100 RTX 5090 et 74 L40S libres en ce moment dans DFW-1 Dallas, IAD-1 Ashburn et PDX-1 Hillsboro. Accès root en environ quatre-vingt-dix secondes, sans vérification d’identité.