AI video üretimi için GPU, aylık fiyatlandırılır.
GPU Rent Hub, AI video üretimi için dedicated NVIDIA RTX 5090 32GB sunucularını aylık $540’a kiralar; bu, GPU-saat başına $0.75 eder ve Bitcoin, Ethereum, USDT, USDC, Monero, Solana veya Litecoin ile kimlik doğrulaması olmadan ödenir.
Video, üretken iş yükleri arasında belleğe en aç ve zamana en aç olanıdır; sabit dönemli kiralamanın saatlik ücretlendirmeden üstün olmasını sağlayan da tam olarak budur. İşte boyutlandırma hesabı.
AI video üretiminin bir GPU’dan neye ihtiyacı var?
İki şey ve bunlar aynı şey değil: çalışmayı tutacak kadar VRAM ve kuyruğu bitirecek kadar saat.
Bir video modeli aynı anda dört şey için VRAM’e ihtiyaç duyar: model ağırlıkları, metin kodlayıcı, latent video tensörü ve bunu gürültüden arındırırken üretilen aktivasyonlar. Latent; karelerin zamansal sıkıştırma faktörüne bölündüğü, yükseklik ve genişliğin de ayrı ayrı 8’e bölündüğü bir ızgaradır. Bu ızgaradaki her konum transformer’ın dikkat ettiği bir token’dır; dolayısıyla bellek kare sayısı ve piksel alanıyla doğrusal, dikkat iş yükü ise yaklaşık token sayısının karesiyle büyür. 720p’de beş saniyelik bir klip, biraz daha büyük bir görüntü değildir. Tek bir 720p kare 160’a 90 latent, yani 14.400 token’dır; klip 160’a 90’a 21 olduğundan 302.400 token eder. Bu, dizi uzunluğunun yirmi bir katıdır ve karesi alındığında yaklaşık 440 kat dikkat iş yüküdür.
Sondaki VAE decode çoğu zaman çalışmanın en yüksek bellek noktasıdır; çünkü latenti tam çözünürlüklü karelere geri genişletir. Bir iş son adımda çöktüğünde insanların başvurduğu yöntem tiled decoding’dir.
Beş saniyelik bir video klibin ne kadar VRAM’e ihtiyacı var?
Önce latent token’ları sayın. 8× uzamsal ve 4× zamansal VAE, 16 fps ve FP16’da 1,536 genişliğinde bir aktivasyon tensörü varsayılır.
| Klip | Latent ızgara | Token | Bir aktivasyon tensörü | 480p’ye göre | Dikkat iş yükü |
|---|---|---|---|---|---|
| 480p, 5 sn832 × 480, 81 kare | 104 × 60 × 21 | 131,040 | 0.40 GB | 1.0× | 1.0× |
| 720p, 5 sn1280 × 720, 81 kare | 160 × 90 × 21 | 302,400 | 0.93 GB | 2.3× | 5.3× |
| 720p, 10 sn1280 × 720, 161 kare | 160 × 90 × 41 | 590,400 | 1.81 GB | 4.5× | 20× |
| 1080p, 5 sn1920 × 1088, 81 kare | 240 × 136 × 21 | 685,440 | 2.11 GB | 5.2× | 27× |
Sonra ağırlıkları ekleyin
Parametre sayısı çarpı parametre başına bayt. 5B’lik bir model BF16’da 10 GB, FP8’de 5 GB tutar. 14B’lik bir model BF16’da 28 GB, FP8’de 14 GB tutar. Metin kodlayıcı üçüncü sayıdır ve checkpoint buna karar verir: google/t5-v1_1-xxl bütün olarak 11B parametredir, BF16’da 22 GB eder; ancak yalnızca encoder kulesi —görüntü ve video iş akışlarının yüklediği kısım— 4.7B’dir, yani 9.4 GB. Her iki durumda da neredeyse herkesin onu bir kez çalıştırıp gürültü giderme başlamadan önce serbest bırakmasının nedeni budur.
Kartı belirleyen bu aritmetiktir. Encoder offload edilmiş FP8’deki 14B’lik bir model 14 GB ağırlık tutar; bu da 32 GB’lık bir kartta 720p aktivasyonları ve tiled decode için yer bırakır. Aynı model BF16’da 28 GB tutar ve hiç yer bırakmaz.
Boyutlandırma kuralı
- 24 GB
- 480p, 5 sn, FP8 ağırlıklar, encoder offload edilmiş
- 32 GB
- 720p, 5 sn, FP8, tiled decode
- 48 GB
- 10 sn’de 720p, kısa 1080p veya 5B modelde BF16
- 80 GB
- Offload olmadan BF16’da 14B veya gerçek bir batch
- 141 GB+
- Uzun 1080p klipler ve tek süreçte çoklu klip batch’leri
Wan 2.2 ve Hunyuan Video çeşitli boyut ve hassasiyetlerde yayınlanır; bunlar sürümler arasında değişir. Aritmetik, sürüm notlarından daha uzun ömürlüdür. Kart kapasiteleri GPU VRAM rehberinde.
Video üretimi için hangi GPU’yu kiralamalısınız?
Bu iş yükü için onları ne sıklıkla önerdiğimize göre sıralanmıştır. GPU-saat başına değer, aylık fiyatın 720’ye bölümüdür.
| GPU | VRAM | Bant genişliği | Haftalık | Aylık | GPU-saat başına | Stok |
|---|---|---|---|---|---|---|
| RTX 5090Tercih: 720p klipler, FP8, dolar başına en hızlı bellek | 32 GB GDDR7 | 1.79 TB/s | $155 | $540/ay | $0.75 | 100 |
| L40SECC bellek, FP8, günlerle ölçülen çalışmalar için | 48 GB GDDR6 ECC | 864 GB/s | $148 | $520/ay | $0.72 | 74 |
| RTX A6000Ucuz 48 GB kapasite, FP8 yok | 48 GB GDDR6 ECC | 768 GB/s | $82 | $290/ay | $0.40 | 65 |
| RTX 6000 AdaFP8 ve workstation sürücüleriyle 48 GB | 48 GB GDDR6 ECC | 960 GB/s | $130 | $460/ay | $0.64 | 26 |
| RTX 4090480p batch’ler, filodaki en büyük stok | 24 GB GDDR6X | 1.01 TB/s | $110 | $390/ay | $0.54 | 265 |
| RTX 3090Bir pipeline’ı test etmenin en ucuz yolu | 24 GB GDDR6X | 936 GB/s | $65 | $230/ay | $0.32 | 186 |
| H100 SXMBF16 sığmadığında 80 GB ve FP8 | 80 GB HBM3 | 3.35 TB/s | $475 | $1,690/ay | $2.35 | 63 |
| H200 SXM1080p, uzun klipler, tek süreçte batch’ler | 141 GB HBM3e | 4.8 TB/s | $640 | $2,290/ay | $3.18 | 19 |
RTX 5090, harcanan dolar başına bant genişliği açısından bu iş yükünü kazanır. 1.79 TB/s değeri, A100 SXM’in 2.04 TB/s değerinin %88’idir ve $990’a karşılık aylık $540’a kiralanır; örnekleme, elli küsur adımın her birinde aynı tensörleri okur. 48 GB ve ECC’li L40S aylık $20 daha azdır, on saniyelik klipler için 16 GB daha fazla hareket alanı verir ve 575 W’a karşılık 350 W çeker. Hız kısıt olmadığında 48 GB tutmanın ucuz yolu $290’lık RTX A6000’dır. Yalnızca model 80 GB veya HBM hızında FP8 istediğinde H100 SXM’e geçin.
Video üretimi için neden aylık dönem doğru biçimdir?
Çünkü kuyruk hiç boş kalmaz. Tek bir klip dakikalar sürer; birkaç binlik bir batch günlerce çalışır.
Kendi pipeline’ınızda bir klibi ölçün, sonra çarpın. Bir 720p klip altı dakika sürüyorsa, tek kart saatte 10, günde 240 ve 720 saatlik ayda 7.200 klip üretir. $540 sabit fiyatta bu klip başına $0.075 eder.
Saatlik ölçüm saatler için ücretlendirir ve bu iş yükü o saatlerin tamamını kullanır. Video üreten bir kart prompt’lar arasında boşta durmaz; bir sonraki prompt’a geçer, bu yüzden saatlik faturalamayı cazip kılan kullanım oranı hiç gelmez. $540’lık RTX 5090’ımız GPU-saat başına $0.75, $520’lık L40S ise $0.72’dir. Ayrıca dönemli kira preempt edilemez; böylece dokuz günlük render kuyruğu başka birinin teklifiyle asla yeniden başlatılmaz.
5090’da bir hafta $155 tutar; bu GPU-saat başına $0.92, yani %23 primdir. Bir pipeline’ı kanıtlamak için kullanın; sonra yeniden kurulum yapmadan aylığa çevirin. Tam başabaş aritmetiği aylık ve saatlik GPU kiralama karşılaştırmasında.
| RTX 5090, tek kart | Fiyat | GPU-saat başına |
|---|---|---|
| 1 hafta168 saat | $155 | $0.92 |
| 1 ay720 saat | $540 | $0.75 |
| 3 ay ön ödemeli−5% | $1,539 | $0.71 |
| 6 ay ön ödemeli−10% | $2,916 | $0.68 |
Video çıktısı nereye gider?
Kareler büyüktür ve bir çalışma onları taşıyabileceğinizden daha hızlı üretir. Depolama ve çıkış trafiği bu iş yükünün parçasıdır, dipnot değil.
Yerel NVMe
RTX 5090, L40S ve RTX A6000’de 500 GB; RTX 4090’da 250 GB; H100 SXM’de 2 TB ve B200’de kart başına 3 TB. B200, 8 yollu bir baseboard üzerinde geldiği için iki kart birlikte satılır. 8 yollu HGX düğümleri 16 TB, 8× B200 düğümü 24 TB taşır; PCIe düğümlerinde ise bu 2 ila 4 TB’dir. Instance başına LUKS2 ile şifrelenir.
Ağ birimleri
NVMe destekli, bölge içinde üç kopyalı, aynı anda birden fazla instance’a bağlanabilir ve instance serbest bırakıldıktan sonra saklanır. Bitmiş bir kütüphanenin durduğu yerdir.
Giden bant genişliği
Instance başına ayda 20 TB dahildir; sonrasında TB başına $4’tır ve asla kısılmaz. 8 Mbit/s hızında beş saniyelik 720p bir klip 5 MB’tır; yani 20 TB yaklaşık dört milyon klip teslim eder.
Kodlama için CPU çekirdekleri
RTX 5090’da 12 vCPU ve 62 GB RAM, L40S’te 16 vCPU ve 94 GB, H100 SXM’de 20 vCPU ve 251 GB. ffmpeg’i sampler’ın yanında çalıştırmak için yeterli.
Çalışma kümesini yerel NVMe’de tutun ve kutudan çıkmadan önce kodlayın. PNG dizilerini bir ağ birimine yazıp ham olarak geri çekmek, $540’lık bir kartın bant genişliği sorununa dönüşmesinin yoludur. Birim bağlama dokümantasyonda ele alınmıştır.
Video üretimi birden fazla GPU’da ölçeklenir mi?
Tek bir klipte kötü ölçeklenir. Bir kuyruk genelinde mükemmel ölçeklenir. Hangi düğümü kiralayacağınızı bu ayrım belirler.
| Düğüm | Haftalık | Aylık | GPU-saat başına | Host | NVMe |
|---|---|---|---|---|---|
| 8× RTX 5090PCIe Gen5 peer-to-peer | $1,120 | $3,890/ay | $0.68 | 96 vCPU · 496 GB | 4 TB |
| 8× L40SPCIe Gen4 peer-to-peer | $1,070 | $3,740/ay | $0.65 | 128 vCPU · 752 GB | 4 TB |
| 8× RTX 4090PCIe Gen4 peer-to-peer | $790 | $2,810/ay | $0.49 | 64 vCPU · 376 GB | 2 TB |
| 8× H100 SXMNVSwitch · 900 GB/s | $3,420 | $12,170/ay | $2.11 | 160 vCPU · 2 TB | 16 TB |
Çoğu video pipeline’ı için doğru desen kart başına bir klip ve aynı anda sekiz kliptir; çünkü PCIe düğümünde 300.000 token’lık tek bir diziyi kartlara bölmenin hızlı bir yolu yoktur. Bu yüzden GPU-saat başına $0.68’lik 8× RTX 5090 düğümü, $2.11’lik H100 düğümünden daha iyi bir render çiftliğidir. Yalnızca model tek bir karta sığmadığında ihtiyaç duyduğunuz tek klip içi pipeline paralelliği NVSwitch ister; bu da 8× H100 SXM düğümü demektir.
Video için ne zaman aylık GPU kiralamamalısınız?
Yanlış cevap olduğumuz üç durum; zaten öğreneceğiniz için açıkça yazılmıştır.
Haftada kırk klip üretiyorsanız saatlik bir sağlayıcı kullanın. Altı dakikada kırk klip, dört saatlik gerçek iş demektir; bizim en kısa dönemimiz ise $155’a yedi gündür. Bu, gerçekten kullandığınız her GPU saati için $38.75 eder; örnek bir sayaçta ise $0.60. Dönemli kira fiyatını ancak kuyruk derinse hak eder.
Gönderdiğiniz iş için 24 GB yeterliyse 32 GB kiralamayın. $390’lık RTX 4090 veya $230’lık RTX 3090, 480p işleri ay boyunca çalıştırır; aradaki fark ikinci bir kart alır. Ölçüm yapmadan büyütmek, insanların burada fazla ödemesinin yoludur.
Yönetilen bir video API’si istiyorsanız biz satmıyoruz. Bare bir makine, sürücü, seçtiğiniz kart ve root alırsınız. Şablonlar ComfyUI ile CUDA 12.8’li PyTorch 2.7’yi içerir; ancak pipeline ve kuyruk sizin çalıştırmanız içindir.
Şu durumda dönemli kiralayın
Kuyruk günlerce sürüyorsa, uç nokta gece boyunca yanıt veriyorsa, çıkış trafiğinin gerçek bir maliyet kalemi olacağı kadar çıktı gönderiyorsanız ya da kimlik kontrolü olmadan kripto ile ödemek istiyorsanız. Stable Diffusion için GPU kiralama ile aynı mantık, yalnızca tensör daha ağır.
AI video üretimi için GPU, açıkça soruldu.
AI video üretimi için hangi GPU’ya ihtiyacım var?
Bir video modeli 720p klip için ne kadar VRAM’e ihtiyaç duyar?
Daha uzun bir klip neden daha uzun bir görüntü batch’inden çok daha fazla bellek tutar?
Video üretimi için aylık GPU kiralamak saatlikten daha mı ucuz?
Bir GPU ayda kaç klip üretebilir?
AI video çıktısı için ne kadar depolamaya ihtiyacım var?
Ürettiğim videoları inceliyor musunuz?
Video üretimi için KYC olmadan GPU kiralayabilir miyim?
Ödemeler ve onay süreleri kripto ödemeleri nasıl çalışır sayfasında; bölge gecikmeleri ve taşıyıcılar veri merkezleri sayfasında; canlı filo durumu durum sayfasında.
Bu öğleden sonra başlayan bir render kuyruğu.
Şu anda DFW-1 Dallas, IAD-1 Ashburn ve PDX-1 Hillsboro genelinde 100 RTX 5090 ve 74 L40S boşta. Yaklaşık doksan saniyede root, kimlik kontrolü yok.