GPU Rent HubКластеры из нескольких GPU

Аренда кластера 8x H100 на одной физической машине.

GPU Rent Hub сдаёт в аренду выделенный узел 8× H100 SXM — один сервер HGX с одним арендатором, где все восемь карт на фабрике NVSwitch, за $12,170 в месяц или $3,420 в неделю, с оплатой в Bitcoin, Ethereum, USDT, USDC, Monero, Solana или Litecoin без проверки личности.

Девять конфигураций узлов — от машины 8× RTX 4090 за $2,810 в месяц до базовой платы 8× B200 HGX за $28,010.

Обновлено 2026-09-01

640 GBHBM3 на узле 8× H100 SXM

900 GB/sNVSwitch, каждая карта с каждой

$2.11За GPU-час, 8× H100 помесячно

1Арендатор на физический узел

01 Определение

Что такое узел с несколькими GPU и чем он отличается от кластера?

Слово «кластер» используется для двух разных продуктов. Только один из них размещает карты на одной фабрике.

Определение, которым мы руководствуемся

Узел с несколькими GPU — это один физический сервер, сданный одному арендатору, где все GPU на одной базовой плате и напрямую соединены между собой. Узел GPU Rent Hub 8× H100 SXM — это базовая плата NVIDIA HGX H100: восемь карт, 640 GB HBM3, NVSwitch даёт каждой карте 900 GB/s к каждой другой карте, 160 vCPU, 2 TB системной RAM, 16 TB локального NVMe и два порта 100G, с root на голом железе. Это не восемь инстансов, соединённых через Ethernet, и не часть машины, разделяемая с кем-то ещё.

Почему это различие важно

Виртуальный кластер даёт вам восемь карт, каждая из которых может выполнять задачу. Настоящий узел даёт восемь карт, которые могут выполнять одну задачу вместе, и разница проявляется в момент шардирования модели, потому что шардирование означает, что карты общаются друг с другом на каждом слое.

Всё на узле принадлежит вам: CPU, RAM, NVMe, оба аплинка и фабрика. Ничего нашего не работает внутри операционной системы, и узел в наличии разворачивается как любой другой инстанс.

02 Какой узел

Сколько стоит аренда кластера 8x H100 в месяц?

$12,170 в месяц за восьмикарточный узел HGX H100, $2.11 за GPU-час. Остальная линейка — с привязкой к рабочим задачам, для которых её покупают.

Задача	Узел	Всего VRAM	В неделю	В месяц	За GPU-час
Обслуживание моделей 70B с тензорным параллелизмом и обучение, которое не помещается на одной картеНачать здесь	8× H100 SXMHGX H100 · NVSwitch	640 GB	$3,420	$12,170/mo	$2.11
Полный файн-тюн с Adam или модель 405B в FP8Самая быстрая фабрика среди узлов, которые проходят оба требования	8× B200HGX B200 · NVSwitch 1.8 TB/s	1,440 GB	$7,850	$28,010/mo	$4.86
Инференс с длинным контекстом, где доминирует KV-кэш141 GB на карту, без шардинга для 120B	8× H200 SXMHGX H200 · NVSwitch	1,128 GB	$4,610	$16,490/mo	$2.86
Больше всего HBM на доллар, на нативном стеке ROCm$7.45 за GB-месяц	8× MI300XInfinity Fabric · 896 GB/s	1,536 GB	$3,240	$11,450/mo	$1.99
Многонедельные обучающие запуски при ограниченном бюджетеПоколение NVLink позади, цена вдвое ниже	8× A100 SXM 80GHGX A100 · NVSwitch 600 GB/s	640 GB	$2,020	$7,130/mo	$1.24
Четырёхсторонний тензорный параллелизм, половина узлаТа же фабрика, меньше обязательств	4× H100 SXMNVLink · 900 GB/s	320 GB	$1,750	$6,220/mo	$2.16
Восемь независимых реплик инференсаОдна модель на карту, поддержка FP8	8× L40SPCIe Gen4 peer-to-peer	384 GB	$1,070	$3,740/mo	$0.65
Параллельные очереди диффузии и видео1.79 TB/s на карту	8× RTX 5090PCIe Gen5 peer-to-peer	256 GB	$1,120	$3,890/mo	$0.68
Рендер-ферма, одно пакетное задание на картуСамый дешёвый способ держать восемь карт	8× RTX 4090PCIe Gen4 peer-to-peer	192 GB	$790	$2,810/mo	$0.49

Цена за GPU-час — это месячная цена, делённая на количество GPU и на 720 часов срока при 100% утилизации. Цены одинаковы во всех регионах, где узел есть в наличии. Цены и характеристики одиночных карт — в каталоге GPU.

03 Машина

Что идёт вместе с узлом помимо GPU?

Все цифры здесь указаны на узел, а не на карту, и всё это выделено вам.

Узел	Всего VRAM	vCPU	RAM	NVMe	Сеть	Регионы
8× B200HGX B200	1,440 GB	224	2 TB	24 TB	2 × 100G	DFW-1
8× H200 SXMHGX H200	1,128 GB	192	2 TB	16 TB	2 × 100G	DFW-1, IAD-1
8× H100 SXMHGX H100	640 GB	160	2 TB	16 TB	2 × 100G	DFW-1, IAD-1, PDX-1
4× H100 SXMПоловина базовой платы	320 GB	80	1 TB	8 TB	100G	DFW-1, IAD-1, PDX-1
8× MI300XПлатформа AMD Instinct	1,536 GB	192	2 TB	16 TB	2 × 100G	DFW-1
8× A100 SXM 80GHGX A100	640 GB	128	1 TB	8 TB	100G	DFW-1, IAD-1, PDX-1
8× L40SPCIe Gen4	384 GB	128	752 GB	4 TB	100G	DFW-1, IAD-1, PDX-1
8× RTX 5090PCIe Gen5	256 GB	96	496 GB	4 TB	100G	DFW-1, IAD-1, PDX-1
8× RTX 4090PCIe Gen4	192 GB	64	376 GB	2 TB	100G	DFW-1, IAD-1, PDX-1

Каждый узел включает 20 TB исходящего трафика в месяц, далее $4/TB. Локальный NVMe расширяется до 30 TB по $9/TB/мес, и частный VLAN включён на каждом 8-стороннем узле. Подробности на странице дата-центров.

04 Интерконнект

В чём разница между узлом с NVSwitch и узлом с PCIe?

В таблице выше две группы машин, и разрыв между ними примерно тридцать к одному.

NVSwitch и NVLink

На платформах HGX каждая карта достигает каждой другой карты со скоростью 900 GB/s на узлах H100 и H200, 1.8 TB/s на узле B200 и 600 GB/s на узле A100. Платформа MI300X выполняет ту же задачу с помощью Infinity Fabric на 896 GB/s. CPU не стоит на пути.

Эта пропускная способность делает тензорный параллелизм реалистичным. Разделение одной модели на восемь карт означает all-reduce на каждом слое, сотни раз за прямой проход, и карты тратят время на ожидание этого обмена, а не на вычисления, если линк медленный.

PCIe peer-to-peer

Узлы L40S, RTX 5090 и RTX 4090 не имеют NVLink. Карты общаются через PCIe: около 32 GB/s в одном направлении на линке Gen4 x16, около 63 GB/s на Gen5, деля канал со всем остальным трафиком через корневой комплекс. По сравнению с 900 GB/s карты H100 SXM это примерно одна двадцать восьмая пропускной способности.

На практике это означает одну модель на карту. Обучение с параллелизмом по данным, восемь реплик инференса за балансировщиком нагрузки, восемь задач рендеринга — всё отлично. 8-сторонний тензорно-параллельный шард на PCIe-узле возможен, но медленный, и время выполнения обходится дороже, чем сэкономленный узел.

Совокупная пропускная способность памяти — это другое число, которое часто путают с фабрикой. Восемь карт H100 SXM дают в сумме 26.8 TB/s HBM3, восемь B200 — 64 TB/s, восемь A100 — 16.3 TB/s. Это скорость чтения каждой картой собственной памяти, а не чужой.

05 Подбор размера

Сколько VRAM нужно узлу с несколькими GPU для вашей модели?

Сначала посчитайте байты на параметр. Почти каждое решение по узлу вытекает из этого одного числа.

Правило подбора размера

Веса занимают 1 байт на параметр в FP8 и 2 байта в BF16. Для обслуживания модели добавьте KV-кэш и около 2 GB накладных расходов. Для полного файн-тюна с Adam в BF16 закладывайте около 16 байт на параметр: 2 на веса, 2 на градиенты и 12 на состояние оптимизатора и мастер-копию FP32. По расчётам руководства по VRAM, модели 70B нужно 75 GB для обслуживания в FP8, 145 GB в BF16, 156 GB для LoRA и 1,288 GB для полного файн-тюна с учётом активаций. Только последнее число имеет масштаб узла.

Что это вам даёт

Модель 70B в BF16 требует 145 GB, поэтому она не поместится на одной карте 80 GB, но разместится на узле 8× H100 SXM с 495 GB запаса под батч и KV-кэш. Полный файн-тюн той же модели при 1,288 GB проходит только на 8× B200 или 8× MI300X. Всё остальное здесь требует LoRA или ZeRO offload, как описано на странице GPU для файн-тюна.

LoRA для 70B — не из этих задач. При 156 GB руководство по VRAM помещает её на одну MI300X за $1,590 в месяц, так что узел обойдётся вам в семь раз дороже и в вечер маппинга устройств впустую.

Если ранжировать по гигабайтам на доллар, порядок груб: узел MI300X — $7.45 за GB-месяц, узел L40S — $9.74, узел A100 — $11.14, узел H100 — $19.02. Дешёвые — дешёвые по причинам: ROCm у одного и нет NVLink у другого.

06 Скидки

Как работает скидка за несколько GPU и суммируется ли она?

5% на двух картах, 8% на четырёх, 10% на восьми, применяется к цене одной карты. Она суммируется со скидкой за предоплаченный срок.

H100 SXM, один хост	Прайс-лист	Скидка	Вы платите	За GPU-час
1 карта	$1,690	нет	$1,690/mo	$2.35
2 карты	$3,380	5%	$3,211/mo	$2.23
4 картыNVLink, половина базовой платы	$6,760	8%	$6,220/mo	$2.16
8 картПолный узел HGX, NVSwitch	$13,520	10%	$12,170/mo	$2.11
8 карт, 3 месяца предоплаты10% затем 5%	$40,560	14.5%	$34,685итого	$2.01
8 карт, 6 месяцев предоплаты10% затем 10%	$81,120	19%	$65,718итого	$1.90

Скидка применяется к картам в одном хосте, а не к картам, разбросанным по парку. Условия предоплаты: 3 месяца — 5% и 6 месяцев — 10%, вычитается из уже сниженной цены узла. Полная таблица на странице цен.

Нижний предел — $1.90 за GPU-час для восьми карт H100 SXM с NVSwitch, против $2.35 за одну карту на скользящем месяце. Оплата не меняется в зависимости от размера заказа: один перевод в BTC, ETH, USDT, USDC, XMR, SOL или LTC закрывает его, без карты и без удостоверения личности. См. как работает оплата криптовалютой, что означает хостинг GPU без KYC и почему помесячный срок лучше почасового счётчика.

BTCETHUSDTUSDCXMRSOLLTC

07 За пределами одного узла

Можно ли арендовать от 16 до 64 GPU на нескольких узлах?

Да, с InfiniBand между узлами, цена рассчитывается индивидуально, а не продаётся из каталога.

Сообщите отделу продаж параметры

Количество GPU, модель, регион, срок и InfiniBand HDR на 200 Gb/s или NDR на 400 Gb/s. Напишите в отдел продаж.

Смета и срок поставки

От 16 до 64 GPU, цена по тарифам узлов выше. Срок поставки от 2 до 6 недель, в зависимости от фабрики.

50% при заказе

Половина первого срока вперёд, в любой из семи монет. Это резервирует оборудование.

50% при передаче

Остаток после того, как фабрика пройдёт запуск и у вас будет root. Никакой проверки личности ни на одном шаге.

Сеть между инстансами в регионе

Инстансы в одном регионе могут использовать общий частный VLAN: уровень 2 между вашими машинами без публичного перехода, $25 в месяц, включён на каждом 8-стороннем узле. Это инструмент для хранилища, питающего четыре узла 8× A100.

Это не замена InfiniBand. VLAN использует тот же 100G Ethernet, что и всё остальное: подходит для загрузки данных и контрольных точек, но не годится для обмена градиентами на каждом шаге.

Кластеры между регионами не предлагаются. DFW-1 Даллас, IAD-1 Эшберн и PDX-1 Хиллсборо — отдельные домены отказа, и задержка между ними делает распределённое обучение бессмысленным. Один регион на кластер.

Если вы предпочитаете владеть картами, те же хосты HGX принимают колокейшн за $240 за GPU в месяц, или купите оборудование полностью.

08 Честные ограничения

Когда аренда узла с несколькими GPU — неправильный выбор?

Если ваша задача помещается на одной карте, узел — пустая трата денег. Узел 8× RTX 4090 стоит $2,810 в месяц против $390 за одну карту, а модель 13B в FP8 — 22 GB всего, вместе с весами, кэшем и накладными расходами. Восемь карт окупаются только при восьми потоках работы или при модели, которая не помещается.

Если вам нужны восемь карт на два дня, используйте почасового провайдера: неделя узла 8× H100 стоит $3,420, независимо от того, работаете ли вы шесть часов или 168. А если ограничение — память, а не пропускная способность, одна H200 с 141 GB или MI300X с 192 GB часто снимает необходимость в узле.

Арендуйте узел, когда

Модель не помещается на одной карте, запуск длится неделями, вам нужно восемь реплик за одним адресом, или задача шардирована и требует 900 GB/s между картами.

Арендуйте одиночные карты, когда

Задачи независимы, нагрузка непредсказуема, или вы хотите протестировать на одной H100 SXM, прежде чем брать восемь.

09 Вопросы

Аренда нескольких GPU и кластеров: простые вопросы.

Сколько стоит аренда кластера 8x H100 в месяц?

$12,170 в месяц или $3,420 за неделю. Это один узел HGX H100 с восемью картами на NVSwitch, 640 GB HBM3, 160 vCPU, 2 TB RAM, 16 TB NVMe и двумя портами 100G. Получается $2.11 за GPU-час за 720-часовой месяц или $1.90 при шестимесячной предоплате.

Узел GPU Rent Hub — это реальная машина или виртуальный кластер?

Реальная машина. Один физический сервер, один арендатор, root на голом железе, все восемь GPU на одной базовой плате HGX и NVSwitch между ними. Ничто не разделяется с другим клиентом, включая CPU, RAM, NVMe и оба аплинка. Мы не продаём виртуальные кластеры, сшитые через сеть.

В чём разница между NVSwitch и PCIe для обучения на нескольких GPU?

NVSwitch даёт каждой карте 900 GB/s к каждой другой карте на узлах H100 и H200 и 1.8 TB/s на B200. PCIe peer-to-peer передаёт около 32 GB/s в каждом направлении на Gen4 и 63 GB/s на Gen5. Тензорный параллелизм на восьми картах реалистичен на первой группе и мучителен на второй.

Сколько всего VRAM у узла 8x H100?

640 GB HBM3, то есть восемь карт по 80 GB, адресуемых через фабрику NVSwitch. Для сравнения, узел 8× H200 имеет 1,128 GB, узел 8× B200 — 1,440 GB, а узел 8× MI300X — 1,536 GB. Модель 70B в BF16 требует 145 GB из этого, оставляя место для большого батча и KV-кэша.

Суммируется ли скидка за несколько GPU с предоплаченными сроками?

Да. Скидка за несколько GPU составляет 5% на двух картах, 8% на четырёх и 10% на восьми в том же хосте. Предоплата даёт дополнительно 5% за три месяца или 10% за шесть, от уже сниженной цены. Восемь карт H100 SXM с предоплатой за шесть месяцев — $65,718, что составляет $1.90 за GPU-час.

Можно ли арендовать больше восьми GPU в одном кластере?

Да, от 16 до 64 GPU с InfiniBand HDR или NDR между узлами, цена рассчитывается индивидуально через отдел продаж, а не продаётся из каталога. Срок поставки от 2 до 6 недель, оплата 50% при заказе и 50% при передаче, теми же семью монетами. Кластеры остаются в одном регионе: DFW-1, IAD-1 или PDX-1.

Можно ли арендовать узел HGX без KYC и платить криптовалютой?

Да. Аккаунт — это имя пользователя и пароль, без email, номера телефона или удостоверения личности при любом размере заказа. Один заказ и один платёж в Bitcoin, Ethereum, USDT, USDC, Monero, Solana или Litecoin покупает срок. Это применимо как к одной карте за $190, так и к узлу B200 за $28,010.

Какой узел арендовать для файн-тюна модели 70B?

Для LoRA — никакой. Нужно 156 GB, которые удерживает одна MI300X за $1,590 в месяц, и руководство по VRAM даёт тот же ответ. Для полного файн-тюна с Adam закладывайте около 16 байт на параметр, 1,288 GB с активациями, что проходит только на узле 8× B200 или 8× MI300X за $11,450.

Детали развёртывания в документации, состояние парка на странице статуса.

Восемь карт на одной фабрике, к пятнице.

Узлы в наличии разворачиваются как любой другой инстанс. Для 16 GPU и больше обратитесь в отдел продаж и ожидайте от 2 до 6 недель.

Создать аккаунт →