# Инфраструктура GPU-серверов

> Наша инфраструктура GPU-серверов: от HGX B300 до H100, AMD MI355X и RTX PRO 6000 в профессиональных дата-центрах, мониторинг 24/7. Смотрите характеристики.

Источник: https://fullgpu.com/ru/infrastructure  
Обновлено: 2026-10-23  
Издатель: FullGPU (https://fullgpu.com/)

## Ключевые моменты

- **Круглосуточный мониторинг:** Состояние GPU, температура и соединения отслеживаются 24/7, а вышедшие из строя компоненты заменяются в приоритетном порядке.
- **SLA с доступностью 99,9%:** Распространяется на электропитание, сеть и оборудование, с компенсацией на баланс до 100% ежемесячной платы.
- **Быстрая сеть:** Публичный IPv4-адрес и подсеть IPv6 /64 на каждом сервере, а на серверах HGX — сетевые адаптеры 400G или 800G.
- **Защита от DDoS:** Защита на каждом публичном IP-адресе, а root-доступ — по SSH-ключу или паролю.
- **Локальные NVMe-накопители:** В каждом сервере есть локальные NVMe-накопители: от 1 ТБ на тарифах с одним GPU до восьми накопителей по 3,84 ТБ на серверах HGX и MI355X.
- **Надёжное стирание:** При смене клиента диски надёжно стираются, поэтому ваши данные никогда не попадут к следующему арендатору.

## Рекомендуемые конфигурации

- [8× NVIDIA HGX B300](https://fullgpu.com/ru/gpus/nvidia-b300): 39 900 $ в месяц — 8× 288 ГБ HBM3e и 8 сетевых адаптеров 800G для масштабного обучения
- [NVIDIA H200](https://fullgpu.com/ru/gpus/nvidia-h200): 3 090 $ в месяц — 141 ГБ HBM3e на одном GPU и сеть 25 Гбит/с
- [8× NVIDIA RTX PRO 6000 Blackwell](https://fullgpu.com/ru/gpus/nvidia-rtx-pro-6000): 10 490 $ в месяц — 768 ГБ GDDR7 на 8 GPU для инференса и рендеринга

## Обзор

Наша инфраструктура GPU-серверов рассчитана на работу, которая длится неделями, а не минутами. Каждый сервер — это либо bare-metal-машина, либо выделенная виртуальная машина с пробросом всего GPU (passthrough); все серверы размещены в профессиональных дата-центрах и находятся под круглосуточным мониторингом. На этой странице рассказано, какое оборудование мы используем, как сбалансирован каждый сервер, как он подключён к сети и как мы обеспечиваем его бесперебойную работу.

## Оборудование, которое мы используем

Мы делаем ставку на ускорители текущего поколения для обучения и инференса ИИ-моделей и для рендеринга — в трёх форматах.

### 8-GPU-серверы, bare metal

Серверы NVIDIA HGX B300, B200, H200 и H100, AMD Instinct MI355X и RTX PRO 6000 Blackwell с восемью GPU. На платах HGX восемь GPU формата SXM соединены через NVLink со скоростью 1,8 ТБ/с на каждый GPU в поколении Blackwell и 900 ГБ/с в поколении Hopper — по опубликованным спецификациям NVIDIA. Платформа MI355X соединяет свои восемь GPU через AMD Infinity Fabric, а RTX PRO 6000 — это карта PCIe Gen5 без NVLink. Вся линейка представлена на странице [8-GPU-серверов](https://fullgpu.com/ru/products/8-gpu-servers).

### Серверы с одним GPU

Выделенная виртуальная машина с пробросом всего GPU: B300, B200, H200, H100 SXM, RTX PRO 6000 Blackwell, L40S или GeForce RTX 5090. Вам достаются вся память и вся вычислительная мощность GPU, а vCPU, оперативная память и NVMe указаны для каждого [сервера с одним GPU](https://fullgpu.com/ru/products/single-gpu-servers).

### Стоечные системы (rack-scale) по запросу

Для обучения фронтирного масштаба стойки NVIDIA GB300 NVL72 с жидкостным охлаждением объединяют 72 GPU Blackwell Ultra в один домен NVLink; срок аренды — от 12 до 36 месяцев. На Vera Rubin NVL72 открыт предзаказ. Обе системы заказываются через заявку на бронирование со [страницы развёртывания](https://fullgpu.com/ru/deploy): при её отправке никакие средства не списываются, а наша команда письменно подтверждает выделение оборудования, цену, срок аренды, расположение и сроки выдачи до того, как вы примете подтверждение и оплатите заказ с баланса; подробнее — на странице [о стоечных системах](https://fullgpu.com/ru/products/rack-scale-systems).

Каждый сервер выдаётся с одним из наших [образов ОС](https://fullgpu.com/ru/products/os-images): Ubuntu 22.04 или 24.04 с предустановленными драйверами NVIDIA, CUDA, Docker и NVIDIA Container Toolkit, образы ROCm для AMD, а также Debian или Rocky Linux по запросу.

## Сбалансированные серверы, а не просто GPU

Быстрому GPU приходится ждать всё, что его окружает. Загрузчикам данных нужны ядра CPU, кэшам датасетов — оперативная память, а чекпоинтам — быстрые локальные диски. Остальные компоненты каждого сервера мы подбираем так, чтобы его GPU не простаивали в ожидании данных.

| 8-GPU-сервер | CPU | ОЗУ | NVMe | Сеть |
| --- | --- | --- | --- | --- |
| NVIDIA HGX B300 | 2× Xeon 6776P, 128 ядер | 4 ТБ DDR5 | 8× 3,84 ТБ | 8× 800G ConnectX-8 |
| NVIDIA HGX B200 | 2× Xeon 8570, 112 ядер | 2 ТБ DDR5 | 8× 3,84 ТБ | 8× 400G ConnectX-7 |
| NVIDIA HGX H200 | 2× Xeon 8480+, 112 ядер | 2 ТБ DDR5 | 8× 3,84 ТБ | 8× 400G ConnectX-7 |
| NVIDIA HGX H100 | 2× Xeon 8480+, 112 ядер | 2 ТБ DDR5 | 8× 3,84 ТБ | 8× 400G ConnectX-7 |
| AMD Instinct MI355X | 2× EPYC 9575F, 128 ядер | 3 ТБ DDR5 | 8× 3,84 ТБ | 8× 400G RoCE |
| NVIDIA RTX PRO 6000 Blackwell | 2× EPYC 9555, 128 ядер | 1,5 ТБ DDR5 | 4× 3,84 ТБ | 2× 100 GbE |

Серверы с одним GPU масштабируются так же: от 16 vCPU, 64 ГБ оперативной памяти и 1 ТБ NVMe с RTX 5090 до 28 vCPU, 384 ГБ оперативной памяти и 3,5 ТБ NVMe с B300. Локальные NVMe-накопители — это быстрое рабочее хранилище для датасетов и чекпоинтов. Мы не выполняем резервное копирование локальных накопителей, если иное не согласовано в письменной форме, поэтому храните копии всего, что невозможно воссоздать.

## Сеть и трафик

Каждый сервер получает публичный IPv4-адрес и подсеть IPv6 /64, а на его публичных IP-адресах работает защита от DDoS.

- **Серверы с одним GPU:** 25 Гбит/с на B300, B200, H200 и H100; 10 Гбит/с на RTX PRO 6000, L40S и RTX 5090.
- **8-GPU-серверы:** восемь сетевых адаптеров ConnectX-8 800G на HGX B300, восемь адаптеров ConnectX-7 400G на HGX B200, H200 и H100, восемь адаптеров RoCE 400G на MI355X и два порта 100 GbE на серверах RTX PRO 6000.
- **Частная сеть:** доступна по запросу между вашими серверами, чтобы внутреннему трафику не приходилось проходить через публичные интерфейсы.

Трафик включён, плата за исходящий трафик не взимается: 20 ТБ в месяц на тарифах с одним GPU и 50 ТБ на 8-GPU-серверах при добросовестном использовании, а входящий трафик не учитывается. Как устроен лимит, объясняется в нашей статье [о трафике и плате за исходящий трафик](https://fullgpu.com/ru/help/bandwidth-and-egress). Планируете обучение на нескольких серверах? Несколько 8-GPU-серверов можно объединить [частной сетью](https://fullgpu.com/ru/products/private-networking), а стойка [GB300 NVL72](https://fullgpu.com/ru/gpus/nvidia-gb300-nvl72) даёт вам один домен NVLink на 72 GPU.

## GPU-серверы в дата-центрах с расположением, зафиксированным письменно

Наши GPU-серверы работают в профессиональных дата-центрах, а не на частных хостах (peer-to-peer). Расположение каждого сервера отображается в личном кабинете с момента выдачи. Если вам нужно соблюдать требования к локализации данных или вы хотите быть ближе к своим пользователям, укажите нужную страну или регион в примечаниях к заказу; если это требование выполнить нельзя, вы можете до выдачи отменить заказ с полным возвратом средств.

## Как мы обслуживаем нашу инфраструктуру GPU-серверов

Мы круглосуточно контролируем каждый сервер, отслеживая состояние GPU, температуру и соединения. Вышедшие из строя GPU и компоненты заменяются в приоритетном порядке, а если ремонт невозможно выполнить быстро, мы предлагаем равноценный сервер при его наличии.

В нашем [соглашении об уровне обслуживания](https://fullgpu.com/ru/legal/sla) мы обязуемся обеспечивать месячную доступность электропитания, сети и оборудования каждого сервера на уровне 99,9%. Если мы не выполним это обязательство, вы можете запросить компенсацию на баланс (service credits) в счёт ежемесячной платы за этот сервер: она зачисляется на баланс вашего аккаунта, а если ваше обслуживание прекращается, выплачивается в виде возврата средств:

- **Ниже 99,9%:** Компенсация 10%
- **Ниже 99,5%:** Компенсация 25%
- **Ниже 99,0%:** Компенсация 50%
- **Ниже 95,0%:** Компенсация 100%

При смене клиента диски надёжно стираются. Когда заканчивается ваш последний оплаченный месяц, сервер выводится из эксплуатации, а его диски стираются, прежде чем оборудование будет использовано снова, поэтому ваши данные никогда не попадут к следующему арендатору.

## Часто задаваемые вопросы

### Где расположены дата-центры FullGPU?

Наши серверы работают в профессиональных дата-центрах. Расположение каждого сервера отображается в личном кабинете с момента выдачи. Если вам нужна определённая страна или регион, укажите это в примечаниях к заказу, а если это требование выполнить нельзя, вы можете до выдачи отменить заказ с полным возвратом средств.

### 8-GPU-серверы — это bare metal?

Да. Каждый 8-GPU-сервер — это bare-metal-машина с root-доступом по SSH. Тарифы с одним GPU — это выделенная виртуальная машина с пробросом всего GPU.

### Какая скорость сети у каждого сервера?

У серверов с одним GPU — 25 Гбит/с на B300, B200, H200 и H100 или 10 Гбит/с на RTX PRO 6000, L40S и RTX 5090. В серверах HGX — восемь сетевых адаптеров 400G или 800G, а каждый сервер получает публичный IPv4-адрес и подсеть IPv6 /64.

### Что будет, если GPU выйдет из строя?

Вышедшие из строя GPU и компоненты заменяются в приоритетном порядке. Если ремонт невозможно выполнить быстро, мы предлагаем равноценный сервер при его наличии, а простой из-за неисправности оборудования учитывается при расчёте доступности по нашему обязательству 99,9%.

### Можно ли объединить мои серверы частной сетью?

Да. Частная сеть между вашими серверами доступна по запросу.

### Считаются ли плановые работы простоем?

Нет. Согласно нашему SLA, плановые технические работы, объявленные не менее чем за 48 часов, не считаются простоем, как и проблемы, вызванные вашим собственным программным обеспечением или конфигурацией.

## Связанные страницы

- [Аренда сервера с 8 GPU: bare metal на базе NVIDIA HGX и AMD Instinct](https://fullgpu.com/ru/products/8-gpu-servers): Аренда bare-metal-сервера с 8 GPU: NVIDIA HGX B300, B200, H200, H100, AMD MI355X или 8× RTX PRO 6000. 50 ТБ трафика, помесячно, выдача менее чем за 10 минут.
- [Аренда сервера с одним GPU: целый GPU в выделенной ВМ](https://fullgpu.com/ru/products/single-gpu-servers): Аренда сервера с одним GPU: целый GPU в выделенной облачной ВМ, от RTX 5090 до B300. Root-доступ, 20 ТБ трафика, помесячная оплата, выдача менее чем за 10 минут.
- [Частная сеть между GPU-серверами](https://fullgpu.com/ru/products/private-networking): Частная сеть между GPU-серверами по запросу: объедините свои серверы FullGPU в изолированную сеть для конвейеров данных и многоузловых задач. Как это работает.
- [Соглашение об уровне обслуживания](https://fullgpu.com/ru/legal/sla): Месячная доступность 99,9% и компенсация на баланс до 100% ежемесячной платы.
- [Доверие и безопасность](https://fullgpu.com/ru/trust): Доверие и безопасность в FullGPU: целые GPU без соседей, root-доступ по SSH-ключу или паролю, надёжное стирание дисков, защита от DDoS и соразмерные проверки. Подробнее.
- [Тесты NCCL на сервере с несколькими GPU: all_reduce_perf шаг за шагом](https://fullgpu.com/ru/docs/multi-gpu-nccl): Как запустить тесты NCCL на сервере с несколькими GPU: проверка топологии NVLink, сборка nccl-tests, busbw в all_reduce_perf и запуск задач torchrun на 8 GPU.