GPU Rent HubGPU para fine-tuning

Alquila una GPU para fine-tuning, dimensionada con una aritmética que puedes comprobar.

GPU Rent Hub alquila GPUs dedicadas NVIDIA y AMD para fine-tuning por semana o mes, desde $190 al mes por una tarjeta de 24 GB que ejecuta QLoRA en un modelo 7B hasta $12,170 al mes por un nodo de 8× H100 SXM conectado por NVLink, con pago en Bitcoin, Ethereum, USDT, USDC, Monero, Solana o Litecoin y sin verificación de identidad.

Actualizado 2026-09-01

112 GBFine-tuning completo de 7B, Adam, antes de activaciones

10 GBEl mismo modelo con QLoRA

900 GB/sNVLink en H100 SXM y H200

72 hPeríodo de gracia en una renovación impagada

01 Definición

¿Cuánta memoria de GPU necesita realmente el fine-tuning?

Esta es la parte en la que la gente se equivoca y es la única que decide qué tarjeta alquilas.

La memoria del fine-tuning en un párrafo. Un fine-tuning completo con el optimizador Adam cuesta alrededor de 16 bytes por parámetro: 2 para los pesos BF16, 2 para los gradientes, 4 para la copia maestra en FP32 y 4 para cada uno de los dos estados de momento de Adam. Por tanto, un modelo 7B necesita aproximadamente 112 GB antes de almacenar una sola activación, lo que no cabe en una tarjeta de 24 GB ni tampoco en una de 80 GB. LoRA congela los pesos base y entrena matrices adaptadoras pequeñas, así que la cuenta baja a la base congelada a 2 bytes por parámetro más unos cientos de megabytes de adaptador y estado del optimizador: unas 21 GB para un 7B. QLoRA cuantiza esa base congelada a 4 bits, 0.5 bytes por parámetro, y entrena los mismos adaptadores: unas 10 GB para un 7B y unas 51 GB para un 70B.

Esas tres cifras, y todas las de la tabla siguiente, son las de la guía de VRAM de GPU, con sus supuestos: gradient checkpointing activado, longitud de secuencia 2,048, batch 1, adaptadores de rango 16 a aproximadamente el 0.5% de los parámetros y una reserva de sobrecarga de ejecución ya incluida. Si aumentas la longitud de secuencia o el batch, las activaciones crecen encima.

De dónde sale el 16

Nada en un bucle de entrenamiento almacena el modelo una sola vez. Pesos, un gradiente de la misma forma, una copia maestra en FP32 y la media y la varianza de Adam por parámetro. Ningún framework consigue eliminar eso.

Qué elimina LoRA

El gradiente y ambos estados del optimizador, para todo excepto los adaptadores. La base congelada sigue teniendo que estar residente, por eso LoRA en un 7B BF16 sigue siendo 14 GB antes de cualquier otra cosa. QLoRA ataca la residencia, no el optimizador.

02 Dimensionamiento

¿Qué GPU necesito para hacer fine-tuning de un modelo 7B, 13B o 70B?

Modelo contra método contra una tarjeta que lo sostenga, con la VRAM citada de la guía de VRAM. El precio por GPU-hora es el mensual dividido entre 720.

Modelo y método	VRAM necesaria	Tarjeta que cabe	VRAM de la tarjeta	Semanal	Mensual	Por GPU-hora
7B, QLoRAbase de 4 bits, rango 16	10 GB	RTX A5000	24 GB	$55	$190/mes	$0.26
13B, QLoRAbase de 4 bits	14 GB	RTX 3090	24 GB	$65	$230/mes	$0.32
7B, LoRAbase BF16 mantenida residente	21 GB	RTX 4090	24 GB	$110	$390/mes	$0.54
34B, QLoRAbase de 4 bits	28 GB	A40	48 GB	$68	$240/mes	$0.33
13B, LoRAbase BF16	33 GB	L40S	48 GB	$148	$520/mes	$0.72
70B, QLoRA35 GB de pesos de 4 bits	51 GB	A100 SXM	80 GB	$280	$990/mes	$1.38
34B, LoRAbase BF16, una tarjeta	79 GB	MI300X	192 GB	$450	$1,590/mes	$2.21
7B, fine-tuning completoAdam, 16 bytes por parámetro	129 GB	2× A100 SXMNVLink 600 GB/s, la vía CUDA más barata	160 GB	$532	$1,881/mes	$1.31
70B, LoRAbase BF16, una tarjeta	156 GB	1× MI300Xsin necesidad de sharding	192 GB	$450	$1,590/mes	$2.21
70B, fine-tuning completoZeRO-3 en todo el nodo	1,288 GB	8× MI300XInfinity Fabric 896 GB/s	1,536 GB	$3,240	$11,450/mes	$1.99

VRAM necesaria es la cifra que la guía de VRAM de GPU obtiene para ese modelo y método, con longitud de secuencia 2,048 y batch 1, con gradient checkpointing activado y la reserva de sobrecarga de ejecución ya incluida. El precio de dos tarjetas incluye el descuento multi-GPU del 5%; la cifra de ocho tarjetas es el precio del nodo. El precio por GPU-hora es el total mensual dividido entre 720 horas y entre el número de tarjetas. Las dos filas de MI300X son solo en DFW-1 Dallas y ejecutan ROCm en lugar de CUDA. Estas son las tarjetas en las que nosotros ejecutaríamos el trabajo; la consulta de la guía de VRAM nombra la tarjeta más barata que simplemente lo alberga, así que aquí una fila a veces es la tarjeta más cara. Dos filas divergen y ambas tienen un motivo. La fila de LoRA en 7B elige una RTX 4090 en lugar de la RTX A5000 de la guía, con los mismos 24 GB, porque 1,008 GB/s de ancho de banda frente a 768 acorta cada paso. La fila de fine-tuning completo de 7B elige dos A100 SXM como la vía CUDA y NVLink más barata, mientras que una MI300X de 192 GB alberga los mismos 129 GB por $1,590 al mes con ROCm. Especificaciones en el catálogo de GPU.

Lee la fila ocho junto a la fila seis. Un fine-tuning completo de un 7B cuesta aproximadamente el doble que QLoRA en un 70B. Para la mayoría de la gente no es el trabajo que necesita hacer.

03 La elección

¿Qué GPU deberías alquilar para entrenar, si tuvieras que elegir una?

Ordenado por lo que desplegaríamos para una ejecución de varias semanas, no por precio. El stock está repartido entre DFW-1 Dallas, IAD-1 Ashburn y PDX-1 Hillsboro.

GPU	VRAM	Interconexión	Semanal	Mensual	Por GPU-hora	Libres ahora
H100 SXM ElecciónHBM3, 3.35 TB/s, FP8	80 GB	NVLink 900 GB/s	$475	$1,690/mes	$2.35	63
A100 SXMHBM2e, 2.04 TB/s, sin FP8	80 GB	NVLink 600 GB/s	$280	$990/mes	$1.38	78
H200 SXMHBM3e, 4.8 TB/s	141 GB	NVLink 900 GB/s	$640	$2,290/mes	$3.18	19
MI300XROCm 6.4, 5.3 TB/s	192 GB	Infinity Fabric 896 GB/s	$450	$1,590/mes	$2.21	8
L40SGDDR6 ECC, FP8	48 GB	PCIe Gen4 peer-to-peer	$148	$520/mes	$0.72	74
RTX A6000GDDR6 ECC, 768 GB/s	48 GB	Puente NVLink 112 GB/s, en pares	$82	$290/mes	$0.40	65
RTX 3090GDDR6X, 936 GB/s	24 GB	Puente NVLink 112 GB/s, en pares	$65	$230/mes	$0.32	186
RTX A5000GDDR6 ECC, 230 W	24 GB	Puente NVLink 112 GB/s, en pares	$55	$190/mes	$0.26	51

Libres ahora son las tarjetas no reservadas en los tres centros en la última actualización del catálogo. Todos los precios incluyen alimentación, refrigeración, un uplink de 100G con garantía de 10G, IPv4 e IPv6 y 20 TB de salida al mes. Los descuentos multi-GPU y por prepago están en la página de precios.

La H100 SXM es la elección: la tarjeta más barata que alquilamos que reúne 80 GB de HBM3, núcleos tensor FP8 y 900 GB/s de NVLink en una sola referencia. La A100 SXM 80 GB es la respuesta de valor a $990, sin FP8, la misma topología NVLink, 59% del precio.

04 Interconexión

¿Por qué importa NVLink por encima de una tarjeta?

Porque una ejecución con sharding mueve gradientes entre tarjetas en cada paso, y el enlace es el suelo de la velocidad a la que eso ocurre.

En una sola GPU la interconexión es irrelevante. En el momento en que haces sharding, con ZeRO-2, ZeRO-3 o paralelismo de tensor, las tarjetas intercambian gradientes o fragmentos de parámetros en cada paso, y ese tráfico es un múltiplo fijo del tamaño del modelo. PCIe Gen4 x16 tiene una velocidad de línea de unos 32 GB/s en una dirección, y Gen5 unos 63. NVLink en una H100 SXM es de 900 GB/s. Esa es la diferencia entre un paso de comunicación que se esconde detrás del cómputo y uno que se convierte en el paso.

La regla: LoRA o QLoRA en una sola tarjeta funciona en cualquier cosa con suficiente VRAM, el entrenamiento en paralelo de datos tolera PCIe, y todo lo que fragmenta un modelo quiere NVLink. Por encima de cuatro tarjetas quiere NVSwitch, que llevan los nodos HGX de 8 vías de la página de alquiler de clústeres multi-GPU.

Las RTX 4090 y RTX 5090 no tienen NVLink. NVIDIA lo eliminó de la línea de consumo después de Ampere. Son GPUs de entrenamiento potentes en una sola tarjeta y una limitación real por encima de una tarjeta, y preferimos decirlo aquí antes de que hayas comprado ocho.

Las A6000, A40, RTX 3090 y RTX A5000 aceptan un puente NVLink, pero solo en pares y solo a 112 GB/s. Útil para agrupar dos tarjetas de 48 GB en 96 GB. No es una malla.

Tarjeta	Enlace entre tarjetas	Ancho de banda	Entrenamiento con sharding
B2002, 4 u 8 vías	NVLink 5 con NVSwitch	1.8 TB/s	Sí, hasta 8 tarjetas
H100 SXM, H200 SXM	NVLink con NVSwitch	900 GB/s	Sí, hasta 8 tarjetas
A100 SXM	NVLink con NVSwitch	600 GB/s	Sí, hasta 8 tarjetas
MI300X	Infinity Fabric	896 GB/s	Sí, solo en 8 vías
H100 PCIe	Puente NVLink opcional	600 GB/s	Pares
A6000, A40, 3090, A5000	Puente NVLink	112 GB/s	Pares
L40S, RTX 6000 Ada, L4	PCIe Gen4 peer-to-peer	~32 GB/s	Solo paralelo de datos
RTX 4090, RTX 5090	PCIe peer-to-peer, sin NVLink	~32 / ~63 GB/sGen4 x16 / Gen5 x16	Una sola tarjeta

Ancho de banda agregado por GPU según lo publicado por el fabricante. Las cifras PCIe son velocidades de línea para un enlace x16 en una dirección, Gen4 en la 4090 y Gen5 en la 5090, no rendimiento medido, que resulta inferior.

05 Plazo

¿Por qué un plazo mensual es la forma adecuada para una ejecución de entrenamiento?

Un fine-tuning es la carga de trabajo donde el modelo de facturación y el trabajo están de acuerdo.

La cadencia de los checkpoints es tuya

En capacidad interrumpible haces checkpoints a la defensiva, porque el intervalo es una cobertura contra el desalojo. En un plazo es una decisión de recuperación: escribir cada mil pasos si la curva de pérdida lo merece, o cada diez mil.

2 TB de NVMe local en una H100 SXM

Un fine-tuning rara vez es una sola ejecución

Un barrido de tasa de aprendizaje, una ablación de datos y una repetición después de que la evaluación decepcione son tres ejecuciones más, que llegan a lo largo de un par de semanas en lugar de en una sola reserva. Cada una no cuesta nada extra en un plazo fijo.

Misma tarjeta, mismo entorno, sin reaprovisionamiento

No puede ser desalojada

Un desalojo en la hora 60 cuesta el hueco desde el último checkpoint, la espera de reencolado y la recarga del dataset. Un plazo no puede ser interrumpido, porque nadie más está en cola para la tarjeta.

Bare metal de inquilino único, acceso root

El dataset permanece residente

Entre ejecuciones, el conjunto de trabajo permanece en el NVMe local, 2 TB en una H100 SXM y 1 TB en una A100, de modo que el segundo barrido empieza en el primer paso y no en una descarga.

Sin arranque en frío después del primero

La aritmética del punto de equilibrio frente a un contador pertenece a alquiler de GPU mensual frente a por horas, y merece la pena leerla antes de contratar un plazo. Lo específico del entrenamiento es que los barridos y las recargas también cuentan como GPU-horas, así que la cifra de utilización con la que deberías probar el punto de equilibrio es la quincena, no la ejecución individual.

06 Checkpoints

¿Dónde van los checkpoints y qué sobrevive al final de un plazo?

Un checkpoint de 70B con estado del optimizador supera el terabyte. Decide dónde aterriza antes del paso 4,000.

NVMe local: Incluido: 2 TB en H100 SXM y H200, 1 TB en A100 SXM, 500 GB en L40S y A6000. Cifrado LUKS2 por instancia, eliminado siete días después del fin del plazo.
NVMe local adicional: $9 por TB al mes, hasta 30 TB en un nodo. El mismo host, el mismo cifrado.
Volumen de red: $14 por TB al mes, con triple réplica en la región, conectable a varias instancias y persistente después de la liberación.
Instantáneas: $6 por TB al mes. Restaurable en cualquier instancia de la región, que es como una ejecución se mueve de una A100 a una H100 sin volver a subir el dataset.
Sacarlo: 20 TB de salida incluidas por instancia y mes; después, $4 por TB. Un conjunto de adaptadores nunca toca ese límite.

Si la ejecución sobrevive al plazo

Una orden de renovación se emite 24 horas antes al mismo precio. Si no la pagas, la instancia se detiene al final del plazo y el hueco se mantiene durante 72 horas mientras lo pagas en BTC, ETH, USDT, USDC, XMR, SOL o LTC. El disco no se toca. Después, el hueco se libera y la clave NVMe se destruye.

Escribe cada checkpoint dos veces: en el NVMe local por velocidad y en un volumen de red por supervivencia. El volumen es la única copia que sobrevive al plazo.

BTCETHUSDTUSDCXMRSOLLTC

El hardware está en DFW-1, IAD-1 y PDX-1. Una cuenta es un nombre de usuario y una contraseña: consulta alojamiento de GPU sin KYC y cómo pagar con cripto.

07 Honestidad

¿Cuándo no deberías alquilar una GPU de fine-tuning con nosotros?

Tres casos, lo bastante comunes como para que prefiramos dejarlos por escrito.

Si el trabajo es un experimento que dura seis horas, usa un proveedor por horas. Nuestro plazo más corto es de siete días. Un mes de H100 SXM para una tarde de QLoRA cuesta $1,690, y usas unos $18 de los $1,690 que pagaste.

El segundo es comprar de más la tarjeta. Mucha gente alquila una H100 para hacer fine-tuning de un 7B con QLoRA, que necesita 10 GB. Ese trabajo corre en una RTX A5000 de $190: más lento, pero no nueve veces más lento. Dimensiona a partir de la tabla de la sección 02, no del modelo que te gustaría estar entrenando.

El tercero es una ejecución que necesita 32 o 64 tarjetas durante dos días y nunca más. Vendemos nodos de hasta ocho tarjetas; más allá de eso, encaja mejor un proveedor de clústeres con medición por uso.

Alquila por horas si

Tu total está por debajo de unas 480 a 680 GPU-horas al mes, que es donde $1,690 por un mes de H100 SXM se encuentra con un contador ilustrativo de $2.49 a $3.49, o quieres una hora en una A100 SXM y una hora en una H100 SXM para cronometrar tu paso.

Alquila un plazo si

La ejecución se mide en semanas, volver a subir el dataset duele, ya te han desalojado una vez de capacidad spot o quieres pagar con cripto sin verificación de identidad.

08 Preguntas

Alquilar una GPU para fine-tuning, preguntado con claridad.

¿Cuánta VRAM necesito para hacer fine-tuning de un modelo 7B?

Unos 10 GB con QLoRA, 21 GB con LoRA sobre una base BF16 y 129 GB para un fine-tuning completo con Adam una vez contadas las activaciones, o 112 GB solo para pesos, gradientes y estado del optimizador. Los dos primeros caben en una tarjeta de 24 GB, es decir, una RTX A5000 por $190 al mes. Para el tercero, dos tarjetas de 80 GB con NVLink por $1,881 al mes son la vía CUDA más barata, y una MI300X de 192 GB por $1,590 alberga los mismos 129 GB por menos si te conviene un stack ROCm. Cifras de la guía de VRAM de GPU.

¿Puedo hacer fine-tuning de un modelo 70B en una sola GPU?

Con QLoRA, sí. Una base 70B de 4 bits son unos 35 GB de pesos y 51 GB con adaptadores, estado del optimizador y sobrecarga, lo que cabe en una A100 SXM 80 GB por $990 al mes. LoRA sobre una base 70B BF16 necesita 156 GB, lo que sigue siendo una sola tarjeta si es una MI300X de 192 GB por $1,590. Un fine-tuning completo de 70B necesita unos 1,288 GB y requiere un nodo.

¿Cuál es la diferencia entre LoRA y QLoRA en memoria de GPU?

LoRA congela los pesos base en BF16, 2 bytes por parámetro, y entrena matrices adaptadoras pequeñas, de modo que el estado del optimizador son cientos de megabytes en lugar de decenas de gigabytes. QLoRA cuantiza esa base congelada a 4 bits, 0.5 bytes por parámetro. En un modelo 7B, eso son 21 GB frente a 10 GB.

¿Necesito NVLink para hacer fine-tuning en varias GPUs?

No para una tarjeta, y no para ejecuciones en paralelo de datos sobre modelos pequeños. Importa cuando los gradientes o los fragmentos de parámetros cruzan tarjetas en cada paso. Las H100 SXM y H200 llevan 900 GB/s, la A100 SXM 600 GB/s y la B200 1.8 TB/s. Las RTX 4090 y RTX 5090 no tienen NVLink, así que no las recomendamos para entrenamiento con sharding.

¿Cuánto cuesta alquilar una GPU para entrenamiento al mes?

Una A100 SXM 80 GB cuesta $990 al mes, es decir, $1.38 por GPU-hora en un plazo de 720 horas. Una H100 SXM cuesta $1,690, o $2.35. Un nodo de ocho H100 SXM con NVSwitch cuesta $12,170, o $2.11. Una tarjeta de 24 GB para QLoRA empieza en $190, y todas las tarjetas están disponibles semanalmente.

¿Qué pasa con mis checkpoints cuando termina el plazo?

El NVMe local se borra siete días después del fin del plazo y su clave de cifrado se destruye, así que todo lo que quieras conservar debe estar en un volumen de red por $14 por TB al mes, con triple réplica en la región y persistente después de liberar la instancia. También puedes sacarlo a través de los 20 TB de salida incluidos cada mes.

¿Puedo alquilar una GPU de entrenamiento sin verificación de identidad?

Sí. Una cuenta es un nombre de usuario y una contraseña. Sin dirección de correo electrónico, sin número de teléfono, sin documento de identidad, sin tarjeta registrada. Pagas el plazo con una transferencia en BTC, ETH, USDT, USDC, XMR, SOL o LTC. Ningún agente corre dentro de tu instancia y nadie aquí lee tu dataset.

¿Es mejor el alquiler mensual de GPU que el alquiler por horas para una ejecución de entrenamiento?

Para una ejecución que se mide en semanas, sí. Un fine-tuning mantiene la tarjeta ocupada casi todo el tiempo, que es donde gana un plazo fijo: $2.35 por GPU-hora en una H100 SXM frente a entre $2.49 y $3.49 por hora, un rango ilustrativo entre proveedores bajo demanda de EE. UU. y no una cotización de un proveedor con nombre, sin desalojo y sin cola. Para una tarde, usa un proveedor por horas.

Dimensionamiento en la guía de VRAM de GPU, topologías en alquiler de clústeres multi-GPU, servir el resultado en GPU para inferencia de LLM, imágenes en la documentación.

Dimensiona la tarjeta, contrata el plazo, inicia la ejecución.

QLoRA en 24 GB desde $190 al mes, una H100 SXM con NVLink desde $1,690, un nodo de 8 vías desde $12,170. Un pedido, un pago, sin documento y sin tarjeta.

Crear una cuenta →