Документация
Документация по GPU-серверам
Пошаговые руководства — от первого входа по SSH до обучения на нескольких GPU: драйверы и CUDA, ROCm, Docker, vLLM, NCCL, мониторинг, хранилище и файрволы.
Ничего не найдено.
Попробуйте другое слово, откройте один из разделов выше или посмотрите, как работает поддержка.
Начало работы
4 руководстваБыстрый старт с GPU-сервером Быстрый старт с новым GPU-сервером FullGPU: войдите по SSH, проверьте GPU, обновите Ubuntu и запустите первый контейнер на GPU — с проверкой на каждом шаге.Подключение к GPU-серверу по SSHКак подключиться к GPU-серверу по SSH: создайте ключ ed25519 (macOS, Linux, Windows), подключитесь, добавьте коллег и отключите вход по паролю. Готовые команды.VS Code Remote SSH и Jupyter на GPU-сервере Работа на GPU-сервере через VS Code Remote SSH, Jupyter на удалённом GPU черезSSH-туннель и перенос данных с rsync и scp. Безопасные настройки, шаг за шагом.- Образ Ubuntu для GPU с предустановленной CUDAСостав нашего образа Ubuntu для GPU с предустановленной CUDA, проверка версий драйвера и CUDA Toolkit, выбор 22.04 или 24.04 и надёжная фиксация драйвера.
ПО для GPU
6 руководств- Как проверить версию CUDA и драйвера NVIDIA в Ubuntu
Проверьте версии драйвера NVIDIA и CUDA в nvidia-smi и nvcc, узнайте, как они должны соотноситься, и добавьте CUDA Toolkit в Ubuntu 24.04 без смены драйвера. - Настройка ROCm для AMD Instinct MI355X
Настройка ROCm на серверах AMD Instinct MI355X: проверка GPU в rocm-smi иamd-smi , группы пользователей, PyTorch и vLLM в контейнерах ROCm, тест RCCL. - Контейнеры Docker с GPU и NVIDIA Container ToolkitРуководство по GPU в Docker с NVIDIA Container Toolkit: --gpus, выбор устройств, резервирование GPU в Compose, разделяемая память для PyTorch и контейнеры ROCm.
- Инференс LLM на vLLM
Инференс LLM с vLLM на вашем GPU-сервере : настройте Python через uv, установите PyTorch и vLLM, проверьтеOpenAI-совместимый API и запустите его как службу. - Тесты NCCL на сервере с несколькими GPU: all_reduce_perf шаг за шагом
Как запустить тесты NCCL на сервере с несколькими GPU: проверка топологии NVLink, сборка nccl-tests , busbw в all_reduce_perf и запуск задач torchrun на 8 GPU. Команды nvidia-smi для мониторингаGPU-серверов Команды nvidia-smi для мониторинга загрузки GPU в Linux: просмотр в реальном времени, логи в CSV, nvtop, экспортер DCGM, ошибки ECC и Xid, аналоги вrocm-smi.
Настройка сервера
2 руководстваМонтирование NVMe-дисков в UbuntuКак смонтировать NVMe-диски в Ubuntu: поиск через lsblk, форматирование и запись в fstab по UUID или NVMe RAID 0 на mdadm. А также проверка состояния и бэкапы.Настройка файрвола на GPU-сервере Настройка файрвола на GPU-сервере с ufw: сначала разрешите SSH, фильтруйте IPv6, обойдите ловушку с портами Docker и защитите эндпоинт vLLM с TLS иAPI-ключом.
Остались вопросы?
- Поддержка через тикетыКлиенты с активным сервером создают тикеты в личном кабинете, а инженеры отвечают круглосуточно.Как работает поддержка
- Центр помощиОплата, выдача серверов, возврат средств, проверка и правила — простыми словами.Открыть
- Статус системТекущее состояние заказов, подготовки и работы серверов, сети и поддержки.Проверить статус