Аренда сервера с одним GPU: целый GPU в выделенной ВМ

Аренда сервера с одним GPU в FullGPU — это целый физический GPU с пробросом (passthrough) в виртуальную машину (ВМ), которой пользуетесь только вы. Входящие в тариф vCPU, оперативная память и локальный NVMe выделены этой ВМ, а подключаетесь вы по SSH с правами root. Вы платите одну фиксированную цену в месяц: от 449 $ за GeForce RTX 5090 до 5 190 $ за NVIDIA B300 с 288 ГБ HBM3e.

Как устроена аренда сервера с одним GPU

Каждый тариф — это выделенная ВМ с GPU. Гипервизор пробрасывает в вашу виртуальную машину весь GPU, поэтому гостевая операционная система загружает драйвер NVIDIA и работает с картой напрямую. Запустите nvidia-smi внутри ВМ — и увидите весь объём видеопамяти (VRAM). Ни у одного другого арендатора нет доли этого GPU: между вашим кодом и оборудованием нет ни vGPU, ни MIG-раздела, ни планировщика с разделением по времени.

Помимо самого GPU, в каждый сервер с одним GPU входят:

• Публичный IPv4-адрес и подсеть IPv6 /64 с защитой от DDoS на публичных IP-адресах.
• Доступ по SSH-ключу и образы Ubuntu с предустановленным стеком для работы с GPU — они описаны на нашей странице об образах ОС.
• SLA (соглашение об уровне обслуживания) с доступностью 99,9% в месяц по электропитанию, сети и оборудованию и компенсацией на баланс (service credits), если мы его не выполним.
• Локальное хранилище NVMe, которое надёжно стирается при смене клиента.

Сравнение семи тарифов с одним GPU

Ресурсы хоста растут вместе с тарифом: чем выше строка в таблице, тем больше vCPU, оперативной памяти, NVMe и пропускной способности сети прилагается к GPU.

В месяце около 730 часов. При круглосуточной работе H100 обходится примерно в 3,00 $ за GPU-час, а RTX 5090 — примерно в 0,62 $. Если GPU нужен вам на несколько часов в неделю, обычно лучше подходит почасовая оплата. Все за и против разобраны в нашем сравнении помесячной и почасовой оплаты.

Когда достаточно одного GPU

Обычно всё решает память. Грубо говоря, веса модели занимают число параметров, умноженное на число байт на параметр (2 в BF16, 1 в FP8, 0,5 в FP4). Прибавьте KV-кэш и накладные расходы среды выполнения, а сверху заложите запас 10–30%.

• Небольшие модели и пайплайны генерации изображений. Модели 8B нужно около 16 ГБ в BF16, так что на RTX 5090 с 32 ГБ или L40S с 48 ГБ остаётся место для KV-кэша.
• Инференс моделей класса 70B. Около 70 ГБ в FP8: на одном H100 — впритык, на H200 — с запасом. В BF16 это около 140 ГБ, поэтому на H200 модель помещается впритык, а на B200 или B300 — с запасом.
• Дообучение (fine-tuning). LoRA и QLoRA требуют гораздо меньше памяти, чем полное дообучение. Для полного дообучения с Adam нужно примерно 16–20 байт на параметр без учёта активаций, поэтому даже модели 7B требуется около 112–140 ГБ. Значит, нужен B200 или B300.
• Рендеринг и генеративный контент. Большим сценам, видеомоделям и крупным батчам пригодятся 96 ГБ RTX PRO 6000.

Чтобы посчитать то же самое для своей модели, точности и длины контекста, воспользуйтесь калькулятором видеопамяти.

Ограничения выделенной ВМ с GPU

Тариф с одним GPU — это один GPU в одной ВМ. Два тарифа — это две отдельные машины, которые обмениваются данными по сети, а не через NVLink. Когда одну модель приходится разделять между несколькими GPU (например, модель больше 288 ГБ памяти B300 или задачу обучения, которой нужен тензорный параллелизм), выбирайте вместо этого 8-GPU-сервер. Это bare-metal-сервер с NVLink между GPU в системах HGX и 50 ТБ трафика в месяц вместо 20 ТБ.

К тому же 8-GPU-серверы немного дешевле в пересчёте на GPU. Восемь тарифов с одним H100 обойдутся в 17 520 $ в месяц, а сервер HGX H100 стоит 16 900 $. Кроме того, bare metal даёт вам всю машину целиком: оба процессора, всю системную память и все накопители.

Повышение тарифа и заказ

Вы не привязаны к выбранной конфигурации. Минимальный срок — один месяц, тарифы продлеваются автоматически с баланса аккаунта, перед каждым продлением приходит напоминание по электронной почте, и вы можете бесплатно отменить аренду в любом месяце в личном кабинете. После этого сервер работает до конца оплаченного месяца.

Чтобы перейти на более мощный тариф — скажем, с H100 на H200, когда вам понадобятся более длинные контексты, — создайте тикет в поддержку в личном кабинете. Изменения зависят от наличия оборудования, а новую конфигурацию, цену и дату выдачи мы письменно подтверждаем до оплаты. В рамках помощи инженеров при запуске мы можем посоветовать, как перенести данные, а подробности описаны в статье о повышении и смене тарифа.

Первый заказ оформляется в одной форме на странице развёртывания: выберите конфигурацию, укажите образ ОС и свой SSH-ключ, создайте бесплатный аккаунт или войдите в свой и оплатите первый месяц с баланса, который вы пополняете криптовалютой. Гарантированная дата выдачи показывается до оплаты. Сервер выдаётся не позднее этой даты, а его IP-адрес и данные для подключения по SSH появляются в личном кабинете; если мы не уложимся в эту дату, вы можете отменить заказ с полным возвратом средств на баланс.