Помощь наших инженеров с настройкой GPU-сервера

Помощь с настройкой GPU-сервера входит в каждый сервер FullGPU. В рамках круглосуточной поддержки наши инженеры помогают проверить сервер после передачи, настроить окружение и перенести данные — без доплаты; а до заказа подобрать сервер помогают наши калькуляторы и руководства. Это помощь и советы: у вас остаются полный root-доступ и полный контроль, а ваши задачи за вас мы не ведём.

Что входит в помощь с настройкой GPU-сервера

Помощь при запуске охватывает три этапа: до заказа, при выдаче сервера и во время переноса вашей работы. До заказа на вопросы о подборе конфигурации отвечают центр помощи, документация, страницы GPU и калькуляторы; после выдачи сервера инженер помогает через тикеты в личном кабинете в любое время суток.

Подбор конфигурации до заказа

Большая часть стоимости определяется выбором GPU. Перед заказом выясните:

• модель, число её параметров и точность, которую вы планируете использовать;
• задачу: обучение, дообучение (fine-tuning) или инференс, а для инференса — ожидаемые длину контекста и число одновременных запросов;
• объём датасета и срок, на который вам нужны мощности.

Калькулятор видеопамяти превращает эти данные в оценку объёма памяти, а на странице каждого GPU указано, что на нём помещается. Типичный результат: модели 70B в FP8 нужно около 70 ГБ, поэтому на одном H100 она помещается впритык, а на одном H200 — с запасом. В BF16 ей нужно около 140 ГБ: тогда впритык будет уже на H200, а с запасом — на B200 или B300. Эти цифры учитывают только веса; добавьте KV-кэш и заложите запас 10–30%. Полное дообучение с Adam требует примерно 16–20 байт на параметр без учёта активаций, поэтому для модели 70B это уже задача для нескольких GPU. Когда будете развёртывать сервер, опишите свою задачу в примечаниях для наших инженеров.

Проверки при первом запуске после передачи сервера

Когда сервер выдан, а его IP-адрес и данные для подключения по SSH появились в личном кабинете, выполните несколько проверок, прежде чем приступать к реальной работе. Мы поможем разобраться в выводе.

nvidia-smi
nvidia-smi topo -m
docker run --rm --gpus all ubuntu nvidia-smi

Первая команда подтверждает, что видны все GPU и вся их память. Вторая показывает интерконнект — на серверах HGX это NVLink между всеми восемью GPU. Третья подтверждает, что у контейнеров есть доступ к GPU.

На 8-GPU-серверах тест NCCL all-reduce даёт нагрузку на интерконнект. Соберите nccl-tests от NVIDIA и запустите, например:

./build/all_reduce_perf -b 8 -e 8G -f 2 -g 8

Если какой-то GPU не виден или пропускная способность шины выглядит низкой, пришлите нам вывод в тикете. Неисправности оборудования устраняем мы: вышедшие из строя GPU и компоненты заменяются в приоритетном порядке. На серверах AMD MI355X аналоги — rocm-smi и тесты RCCL. Подробнее об этих тестах — в руководстве по работе с несколькими GPU и NCCL.

Советы по окружению и переносу данных

Создайте тикет, если вопрос касается слоя между образом и вашим кодом:

• Драйверы и CUDA. Какую ветку драйвера ожидает ваш фреймворк и подходит ли версия CUDA в контейнере к драйверу хоста.
• Контейнеры. Контейнеры с GPU на Docker и NVIDIA Container Toolkit или контейнеры ROCm на AMD.
• Фреймворки. Как заставить PyTorch, vLLM, SGLang или TensorRT-LLM использовать все GPU и какие настройки важны для запусков на нескольких GPU.

При переносе данных мы подскажем, как переместить датасеты, чекпоинты и веса моделей от другого провайдера или с предыдущего сервера FullGPU: rsync по SSH для каталогов, параллельные потоки для больших объёмов и проверка контрольных сумм перед удалением исходных данных. Входящий трафик не учитывается, поэтому загрузка данных на новый сервер не расходует включённый трафик. Если ваш нынешний провайдер берёт плату за исходящий трафик, заложите эти расходы на его стороне. Программную часть описывают наше руководство по PyTorch и vLLM и страница об образах ОС.

Что не входит в помощь при запуске

Помощь при запуске — это помощь и советы, а не эксплуатация ваших систем за вас. Мы:

• не запускаем, не отслеживаем и не перезапускаем ваши задачи обучения или сервисы инференса;
• не сопровождаем код ваших приложений, модели или контейнеры;
• не делаем резервных копий ваших данных, если это не согласовано письменно;
• не получаем доступ к вашим данным, кроме случаев, когда это необходимо для обеспечения работы или ремонта сервиса по вашему запросу, либо когда этого требует закон.

А отвечаем мы за инфраструктуру: электропитание, сеть и оборудование в рамках SLA (соглашения об уровне обслуживания) с месячной доступностью 99,9% и компенсацией на баланс (service credits), а также за круглосуточную поддержку, которая за этим стоит. Если GPU выходит из строя, устранять неисправность — наша задача. Запуск ваших задач остаётся за вами.

Как получить помощь с настройкой

До заказа ответы можно найти в центре помощи, документации, на страницах GPU и в калькуляторах, а при заказе вы можете описать свою задачу в примечаниях для наших инженеров; после выдачи сервера создайте тикет в личном кабинете, и инженер ответит в любое время суток. Укажите сервер, что вы пытаетесь сделать, и приложите вывод команд, если он есть. Отдельной платы нет, и записываться заранее не нужно. Что указать в обращении, объясняется на нашей странице о получении поддержки.