# Частная сеть между GPU-серверами > Частная сеть между GPU-серверами по запросу: объедините свои серверы FullGPU в изолированную сеть для конвейеров данных и многоузловых задач. Как это работает. Источник: https://fullgpu.com/ru/products/private-networking Обновлено: 2026-10-22 Издатель: FullGPU (https://fullgpu.com/) ## Ключевые моменты - **Изолированная сеть ваших серверов:** В частной сети находятся только ваши собственные серверы, и она отделена от публичного интерфейса каждого из них. - **Настраивает наша команда:** Попросите об этом в примечаниях к заказу или в тикете в личном кабинете. Наши инженеры настроят сеть и пришлют вам её параметры. - **Конвейеры данных:** Передавайте датасеты, чекпоинты и эмбеддинги между своими серверами по частным адресам. - **Многоузловые задачи:** Свяжите узел обучения с машинами для оценки моделей или инференса либо запускайте распределённые задачи на нескольких серверах. - **Внутренние сервисы остаются внутри:** Привяжите базы данных, очереди, метрики и внутренние API к частным адресам, а публичный интерфейс держите за файрволом. ## Рекомендуемые конфигурации - [8× NVIDIA HGX H200](https://fullgpu.com/ru/gpus/nvidia-h200): 23 900 $ в месяц — 8-GPU-узел для обучения в связке с серверами для инференса или оценки - [8× NVIDIA HGX B200](https://fullgpu.com/ru/gpus/nvidia-b200): 34 900 $ в месяц — Узел обучения на Blackwell — источник данных для остальных ваших серверов - [NVIDIA H200](https://fullgpu.com/ru/gpus/nvidia-h200): 3 090 $ в месяц — GPU со 141 ГБ для инференса в частной сети с вашим узлом обучения ## Обзор Частная сеть между GPU-серверами позволяет вашим машинам связываться друг с другом по адресам, недоступным из интернета. В FullGPU она предоставляется по запросу: наша команда объединяет арендованные вами серверы в изолированную сеть, а вы используете её для конвейеров данных, многоузловых задач и всех сервисов, которым нечего делать на публичном IP-адресе. ## Зачем нужна частная сеть между GPU-серверами У каждого сервера FullGPU есть публичный IPv4-адрес и подсеть IPv6 /64, а на его публичных IP-адресах работает защита от DDoS. Именно это нужно вашим пользователям и вашим SSH-сессиям. Другое дело — трафик между вашими собственными серверами: - **Доступ извне.** Векторную базу данных, очередь Redis или эндпоинт метрик на публичном IP-адресе от интернета отделяет всего одна ошибка в настройках файрвола. В частной сети такой сервис недоступен извне. - **Простые правила.** Внутренние сервисы слушают только частные адреса, поэтому список правил публичного файрвола остаётся коротким: SSH и порты, которые нужны вашим пользователям. - **Разделение.** Копирование чекпоинтов и передача датасетов между вашими серверами идут в обход публичного интерфейса, который обслуживает ваших пользователей. Возможно, частная сеть вам и не нужна. Одному серверу или серверам, которые общаются только с внешним миром, она ничего не даёт. Она становится нужной, как только две ваши машины начинают обмениваться данными или зависеть от сервисов друг друга. ## Типовые схемы ### Узел обучения передаёт модели серверам инференса Узел HGX занимается обучением или дообучением (fine-tuning), а серверы с одним GPU запускают инференс полученной модели. Чекпоинты передаются на эти серверы по частной сети, например с помощью `rsync`, а из публичного интернета доступны только эндпоинты инференса. ### Конвейеры данных Один сервер занимается предобработкой, токенизацией или вычислением эмбеддингов, пока другие обучают на этих данных модели или индексируют их. Шарды, эмбеддинги и логи передаются между серверами по частным адресам. ### Многоузловые задачи Распределённая оценка моделей, перебор гиперпараметров, воркеры Ray и задачи с параллелизмом по данным, которые обмениваются умеренными объёмами данных, хорошо подходят для частной сети. Масштабное обучение с тесно связанными узлами — другой случай, о нём рассказано в следующем разделе. ### Мониторинг и внутренние API Экспортёры метрик, агенты доставки логов и внутренние API моделей слушают только частный интерфейс. Какие метрики стоит собирать, описано в нашем [руководстве по мониторингу GPU](https://fullgpu.com/ru/docs/gpu-monitoring). ## Частная сеть или сетевая фабрика кластера? Частная сеть — не то же самое, что высокоскоростная сетевая фабрика GPU-кластера. Обучению, при котором градиенты синхронизируются между узлами на каждом шаге, нужен RDMA через InfiniBand или RoCE. Если одной такой задаче нужно больше GPU, чем помещается в [8-GPU-сервер](https://fullgpu.com/ru/products/8-gpu-servers), стойка [GB300 NVL72](https://fullgpu.com/ru/gpus/nvidia-gb300-nvl72) объединяет 72 GPU в одном домене NVLink. Частная сеть берёт на себя всё остальное: перемещение данных, оркестрацию, сервисы и менее требовательные распределённые задачи. Пропускная способность зависит от серверов, которые вы объединяете. Сетевые характеристики каждого сервера указаны в нашем каталоге: например, 25 Гбит/с у тарифа с одним H100 и 10 Гбит/с у тарифа с L40S. Опишите в примечаниях к заказу или в тикете в поддержку, что вы планируете передавать между серверами, чтобы наши инженеры могли это учесть. ## Безопасность при работе с частной сетью - Привязывайте внутренние сервисы к частному интерфейсу, а не к `0.0.0.0`. - Держите на публичном интерфейсе файрвол хоста: разрешите SSH и порты, которые нужны вашим пользователям, а всё остальное запретите. Базовая настройка показана в [руководстве по сети и файрволу](https://fullgpu.com/ru/docs/networking-firewall). - Не отключайте аутентификацию во внутренних сервисах. Изоляция ограничивает круг тех, кто может к ним обратиться, но не заменяет учётные данные. - Опубликованные порты Docker могут обходить правила файрвола хоста. Публикуйте внутренние контейнеры только на частном адресе, например `-p :6379:6379`. Защита от DDoS охраняет ваши публичные IP-адреса, а частная сеть из интернета недоступна в принципе. Публичной стороне посвящена наша страница [о защите от DDoS](https://fullgpu.com/ru/products/ddos-protection). ## Частная сеть в повседневной работе Когда сеть настроена, выполните `ip -br addr` на каждом сервере, чтобы увидеть частный интерфейс и его адрес. Затем присвойте серверам постоянные имена, чтобы скрипты и конфигурации никогда не зависели от публичных IP-адресов. Например, в `/etc/hosts` на каждом сервере: ``` train-1 serve-1 ``` После этого внутренний трафик идёт по этим именам. Копирование чекпоинта с узла обучения на узел инференса выглядит так: ``` rsync -a --info=progress2 /data/ckpt/ serve-1:/data/ckpt/ ``` Используйте эти же имена во внутренних сервисах: для базы данных или векторного хранилища, которые слушают частный адрес, для сборщика метрик, опрашивающего экспортёры в частной сети, или для внутреннего API модели, к которому обращаются только другие ваши серверы. Держите имена одинаковыми на всех серверах — тогда узел можно заменить, не правя каждую конфигурацию. ## Как запросить частную сеть 1. Укажите это в примечаниях к заказу, когда будете [развёртывать серверы](https://fullgpu.com/ru/deploy), или создайте тикет в поддержку для серверов, которые уже арендуете. 2. Перечислите серверы, которые нужно объединить, и укажите, что будет передаваться между ними. 3. Наша команда настраивает сеть и присылает вам параметры для каждого сервера. Спланировать сеть проще всего, если упомянуть о ней в первом заказе, особенно когда речь идёт о нескольких [8-GPU-серверах](https://fullgpu.com/ru/products/8-gpu-servers). ## Часто задаваемые вопросы ### Как получить частную сеть между своими серверами? Попросите об этом в примечаниях к заказу или в тикете в личном кабинете и перечислите серверы, которые нужно объединить. Наша команда настроит сеть и пришлёт вам её параметры. ### Могут ли другие клиенты получить доступ к моей частной сети? Нет. Частная сеть изолирована и объединяет только ваши собственные серверы. ### Частная сеть — это то же самое, что сетевая фабрика кластера? Нет. Частная сеть обслуживает перемещение данных, сервисы и менее требовательные распределённые задачи; это не RDMA-фабрика на InfiniBand или RoCE, которая нужна для тесно связанного обучения на нескольких узлах. Для одной задачи на множестве GPU стойка GB300 NVL72 объединяет 72 GPU в одном домене NVLink. ### Какая скорость у частной сети? Это зависит от серверов, которые вы объединяете: их сетевые характеристики указаны в нашем каталоге. Опишите в примечаниях к заказу или в тикете в поддержку, что вы планируете передавать, чтобы наши инженеры могли это учесть. ### Нужен ли при этом файрвол? Да, на публичном интерфейсе. Привязывайте внутренние сервисы к частным адресам, не отключайте в них аутентификацию и открывайте только те публичные порты, которые нужны вашим пользователям. ## Связанные страницы - [Аренда GB300 NVL72 от 7 990 $ за GPU-месяц](https://fullgpu.com/ru/gpus/nvidia-gb300-nvl72): Аренда GB300 NVL72 от 7 990 $ за GPU-месяц (≈ 10,95 $ за GPU-час) на срок 12–36 месяцев: 72 GPU Blackwell Ultra в одном домене NVLink. Забронируйте сейчас. - [Аренда сервера с 8 GPU: bare metal на базе NVIDIA HGX и AMD Instinct](https://fullgpu.com/ru/products/8-gpu-servers): Аренда bare-metal-сервера с 8 GPU: NVIDIA HGX B300, B200, H200, H100, AMD MI355X или 8× RTX PRO 6000. 50 ТБ трафика, помесячно, выдача менее чем за 10 минут. - [Аренда сервера с одним GPU: целый GPU в выделенной ВМ](https://fullgpu.com/ru/products/single-gpu-servers): Аренда сервера с одним GPU: целый GPU в выделенной облачной ВМ, от RTX 5090 до B300. Root-доступ, 20 ТБ трафика, помесячная оплата, выдача менее чем за 10 минут. - [Защита GPU-серверов от DDoS: включена на каждом публичном IP](https://fullgpu.com/ru/products/ddos-protection): Защита GPU-сервера от DDoS всегда включена на каждом публичном IP, без доплаты. Узнайте, что она покрывает, а что нет, и как укрепить защиту API инференса. - [Настройка файрвола на GPU-сервере](https://fullgpu.com/ru/docs/networking-firewall): Настройка файрвола на GPU-сервере с ufw: сначала разрешите SSH, фильтруйте IPv6, обойдите ловушку с портами Docker и защитите эндпоинт vLLM с TLS и API-ключом. - [Тесты NCCL на сервере с несколькими GPU: all_reduce_perf шаг за шагом](https://fullgpu.com/ru/docs/multi-gpu-nccl): Как запустить тесты NCCL на сервере с несколькими GPU: проверка топологии NVLink, сборка nccl-tests, busbw в all_reduce_perf и запуск задач torchrun на 8 GPU.