用于 AI 视频生成的 GPU,按月计价。
GPU Rent Hub 以每月 540 美元出租用于 AI 视频生成的专用 NVIDIA RTX 5090 32GB 服务器,相当于每个 GPU 小时 0.75 美元;可使用比特币、以太坊、USDT、USDC、门罗币、Solana 或莱特币支付,无需身份验证。
视频生成是所有生成式负载中对显存和时间最渴求的一种,这正是固定期限胜过按时计费的原因。下面是容量计算的算术。
AI 视频生成需要 GPU 提供什么?
两样东西,而且它们不是一回事:足够的显存来跑完整次运行,以及足够的小时数来完成队列。
视频模型同时需要显存来做四件事:模型权重、文本编码器、潜空间视频张量,以及在去噪过程中产生的激活值。潜空间是按时间压缩因子划分的帧网格,再乘以高度和宽度各自除以 8 的结果。该网格中的每个位置都是 transformer 要处理的 token,因此显存随帧数和像素面积线性增长,而注意力计算量大约随 token 数的平方增长。720p 的五秒片段并不是一张稍大的图像。一个 720p 帧是 160 × 90 的潜空间,14,400 个 token;该片段是 160 × 90 × 21,因此有 302,400 个 token。序列长度是单帧的二十一倍,按平方计算,注意力计算量约为 440 倍。
最后的 VAE 解码通常是一次运行中显存占用最高的点,因为它要把潜空间扩展回全分辨率帧。当作业在最后一步失败时,人们会采用分块解码。
一段五秒视频需要多少显存?
先计算潜空间 token 数。假设使用 8× 空间和 4× 时间 VAE、16 fps,以及一个宽度为 1,536 的 FP16 激活张量。
| 片段 | 潜空间网格 | Token 数 | 单个激活张量 | 对比 480p | 注意力计算量 |
|---|---|---|---|---|---|
| 480p,5 秒832 × 480,81 帧 | 104 × 60 × 21 | 131,040 | 0.40 GB | 1.0× | 1.0× |
| 720p,5 秒1280 × 720,81 帧 | 160 × 90 × 21 | 302,400 | 0.93 GB | 2.3× | 5.3× |
| 720p,10 秒1280 × 720,161 帧 | 160 × 90 × 41 | 590,400 | 1.81 GB | 4.5× | 20× |
| 1080p,5 秒1920 × 1088,81 帧 | 240 × 136 × 21 | 685,440 | 2.11 GB | 5.2× | 27× |
然后加上权重
参数量乘以每参数的字节数。一个 5B 模型在 BF16 下为 10 GB,在 FP8 下为 5 GB。一个 14B 模型在 BF16 下为 28 GB,在 FP8 下为 14 GB。文本编码器是第三项数字,并且由检查点决定:google/t5-v1_1-xxl 整体为 11B 参数,BF16 下为 22 GB,但图像和视频工作流实际加载的编码器塔只有 4.7B,因此是 9.4 GB。无论哪种情况,这就是几乎所有人都会先运行一次并在去噪开始前将其释放的原因。
这个算术决定了显卡选择。一个 FP8 的 14B 模型在卸载编码器后权重为 14 GB,这给 32 GB 显卡留下运行 720p 激活值和分块解码的空间。同一模型在 BF16 下为 28 GB,没有任何剩余。
容量规则
- 24 GB
- 480p,5 秒,FP8 权重,已卸载编码器
- 32 GB
- 720p,5 秒,FP8,分块解码
- 48 GB
- 720p 10 秒,或 1080p 短片,或 5B 模型的 BF16
- 80 GB
- 14B BF16 不卸载,或真实的批量
- 141 GB+
- 长 1080p 片段以及单进程内的多片段批量
Wan 2.2 和 Hunyuan Video 以多种尺寸和精度发布,而且这些在版本之间会变化。算术比发布说明更持久。显卡容量见 GPU 显存指南。
视频生成应该租哪块 GPU?
按我们为这一负载推荐的频率排序。每 GPU 小时价格等于月价除以 720。
| GPU | VRAM | 带宽 | 每周 | 每月 | 每 GPU 小时 | 库存 |
|---|---|---|---|---|---|---|
| RTX 5090首选:720p 片段,FP8,单位美元最快的显存带宽 | 32 GB GDDR7 | 1.79 TB/s | $155 | $540/mo | $0.75 | 100 |
| L40SECC 显存,FP8,适合持续数天的运行 | 48 GB GDDR6 ECC | 864 GB/s | $148 | $520/mo | $0.72 | 74 |
| RTX A6000便宜的 48 GB 容量,无 FP8 | 48 GB GDDR6 ECC | 768 GB/s | $82 | $290/mo | $0.40 | 65 |
| RTX 6000 Ada48 GB,带 FP8 和工作站驱动 | 48 GB GDDR6 ECC | 960 GB/s | $130 | $460/mo | $0.64 | 26 |
| RTX 4090480p 批量,机队中库存最大 | 24 GB GDDR6X | 1.01 TB/s | $110 | $390/mo | $0.54 | 265 |
| RTX 3090测试流水线最便宜的方式 | 24 GB GDDR6X | 936 GB/s | $65 | $230/mo | $0.32 | 186 |
| H100 SXM当 BF16 装不下时,80 GB 和 FP8 | 80 GB HBM3 | 3.35 TB/s | $475 | $1,690/mo | $2.35 | 63 |
| H200 SXM1080p、长片段、单进程批量 | 141 GB HBM3e | 4.8 TB/s | $640 | $2,290/mo | $3.18 | 19 |
RTX 5090 在单位美元租金的带宽上胜出这一负载。其 1.79 TB/s 相当于 A100 SXM 2.04 TB/s 的 88%,每月租金 540 美元,而后者为 990 美元;而且采样在其五十多步中的每一步都要读取相同的张量。带 48 GB 和 ECC 的 L40S 每月便宜 20 美元,为十秒片段多出 16 GB 余量,功耗为 350 W,对比 575 W。290 美元的 RTX A6000 是在速度不是限制因素时持有 48 GB 的便宜方式。只有在模型需要 80 GB 或 HBM 速度的 FP8 时,才选择 H100 SXM。
为什么按月租期适合视频生成?
因为队列永远不会空。一个片段需要几分钟,几千个片段的批量则要运行数天。
在你自己的流水线上测量一个片段,然后相乘。如果一个 720p 片段需要六分钟,一块卡每小时产出 10 个,每天 240 个,720 小时的一个月产出 7,200 个。以 540 美元固定价格计算,每个片段 0.075 美元。
按时计费按小时收费,而这种负载会用到所有小时。正在生成视频的卡不会在两次提示之间闲置,它会立即处理下一个提示,因此让小时计费看起来有吸引力的利用率永远不会出现。我们的 RTX 5090 每月 540 美元,相当于每 GPU 小时 0.75 美元;我们的 520 美元的 L40S 是 0.72 美元。租期也不会被抢占,因此九天的渲染队列永远不会因为别人的竞价而重新开始。
5090 租一周为 155 美元,即每 GPU 小时 0.92 美元,溢价 23%。可以用它验证流水线,然后无需重新开通即可转成月租。完整的盈亏平衡计算见 按月与按小时 GPU 租赁。
| RTX 5090,单卡 | 价格 | 每 GPU 小时 |
|---|---|---|
| 1 周168 小时 | $155 | $0.92 |
| 1 个月720 小时 | $540 | $0.75 |
| 3 个月预付−5% | $1,539 | $0.71 |
| 6 个月预付−10% | $2,916 | $0.68 |
视频输出去了哪里?
帧很大,而且一次运行生成帧的速度比移动它们的速度更快。存储和出站流量是这个负载的一部分,不是脚注。
本地 NVMe
RTX 5090、L40S 和 RTX A6000 为 500 GB,RTX 4090 为 250 GB,H100 SXM 为 2 TB,B200 每块卡为 3 TB,后者按两块卡一组出售,因为它搭载在 8-way 底板上。8-way HGX 节点配备 16 TB,8× B200 节点配备 24 TB,而 PCIe 节点为 2 到 4 TB。每个实例使用 LUKS2 加密。
网络卷
基于 NVMe,区域内三副本,可同时挂载到多个实例,并在实例释放后保留。这是成品库所在的位置。
出站带宽
每个实例每月包含 20 TB,之后每 TB 4 美元,从不限速。一个 8 Mbit/s 的五秒 720p 片段为 5 MB,因此 20 TB 大约可交付四百万个片段。
用于编码的 CPU 核心
RTX 5090 配备 12 vCPU 和 62 GB 内存,L40S 为 16 vCPU 和 94 GB,H100 SXM 为 20 vCPU 和 251 GB。足以在采样器旁边运行 ffmpeg。
将工作集保留在本地 NVMe 上,并在离开机器前进行编码。把 PNG 序列写入网络卷再原样拉取下来,正是让 540 美元的显卡变成带宽问题的方式。卷挂载见 文档。
视频生成能跨多块 GPU 扩展吗?
在单个片段内,效果很差;在队列上,效果完美。这个区别决定了该租哪种节点。
| 节点 | 每周 | 每月 | 每 GPU 小时 | 主机 | NVMe |
|---|---|---|---|---|---|
| 8× RTX 5090PCIe Gen5 peer-to-peer | $1,120 | $3,890/mo | $0.68 | 96 vCPU · 496 GB | 4 TB |
| 8× L40SPCIe Gen4 peer-to-peer | $1,070 | $3,740/mo | $0.65 | 128 vCPU · 752 GB | 4 TB |
| 8× RTX 4090PCIe Gen4 peer-to-peer | $790 | $2,810/mo | $0.49 | 64 vCPU · 376 GB | 2 TB |
| 8× H100 SXMNVSwitch · 900 GB/s | $3,420 | $12,170/mo | $2.11 | 160 vCPU · 2 TB | 16 TB |
对于大多数视频流水线,正确的模式是每块卡处理一个片段,同时运行八个片段,因为 PCIe 节点没有跨卡拆分单个 300,000 token 序列的快速路径。这就是为什么每 GPU 小时 0.68 美元的 8× RTX 5090 节点比 2.11 美元的 H100 节点更适合做渲染农场。单个片段内的流水线并行——只有模型无法放入任何单卡时才需要——需要 NVSwitch,也就是 8× H100 SXM 节点。
什么时候你不应该为视频生成租按月 GPU?
三种情况说明我们不是正确答案,直说是因为你迟早会发现。
如果你每周生成四十个片段,请使用按小时计费的服务商。四十个片段,每个六分钟,实际工作时间是四小时,而我们的最短租期是七天 155 美元。这相当于你实际使用的每个 GPU 小时 38.75 美元,而按小时计费的示例价格是 0.60 美元。只有当队列足够深时,租期才物有所值。
如果 24 GB 足够你交付的内容,就不要租 32 GB。390 美元的 RTX 4090 或 230 美元的 RTX 3090 可以整月运行 480p 工作,差价还能再买一块卡。在测量一次运行之前就提高规格,是人们在这里多花钱的原因。
如果你想要托管视频 API,我们不卖这个。你得到的是裸机、驱动、你选择的显卡和 root 权限。模板包括 ComfyUI 和 PyTorch 2.7 with CUDA 12.8,但流水线和队列由你自己运行。
以下情况选择租期
队列要跑数天,端点需要通宵应答,你交付的输出量足够大,出站流量是一个实际成本项,或者你想用加密货币支付而无需身份核验。与 Stable Diffusion 的 GPU 租赁 同理,只是张量更重。
用于 AI 视频生成的 GPU,直白问答。
AI 视频生成需要什么 GPU?
一个 720p 片段需要多少显存?
为什么更长的片段比更长的图像批次消耗多这么多显存?
按月租 GPU 比按小时便宜吗?
一块 GPU 一个月能生成多少个片段?
AI 视频输出需要多少存储空间?
你们会检查我生成的视频吗?
我可以在没有 KYC 的情况下租用 GPU 进行视频生成吗?
支付方式和确认时间见 加密货币支付如何运作,站点延迟和运营商见 数据中心页面,实时机队状态见 状态页面。
今天下午就能开始的渲染队列。
DFW-1 达拉斯、IAD-1 阿什本和 PDX-1 希尔斯伯勒当前有 100 块 RTX 5090 和 74 块 L40S 空闲。大约九十秒获得 root,无需身份核验。