# Документация по GPU-серверам

> Руководства по подключению к серверу FullGPU и запуску задач: SSH, драйверы и CUDA, ROCm, Docker, vLLM, NCCL, мониторинг, накопители и файрвол.

Источник: https://fullgpu.com/ru/docs  
Издатель: FullGPU (https://fullgpu.com/)

## Начало работы

- [Быстрый старт с GPU-сервером](https://fullgpu.com/ru/docs/quickstart): Быстрый старт с новым GPU-сервером FullGPU: войдите по SSH, проверьте GPU, обновите Ubuntu и запустите первый контейнер на GPU — с проверкой на каждом шаге.
- [Подключение к GPU-серверу по SSH](https://fullgpu.com/ru/docs/ssh-access): Как подключиться к GPU-серверу по SSH: создайте ключ ed25519 (macOS, Linux, Windows), подключитесь, добавьте коллег и отключите вход по паролю. Готовые команды.
- [VS Code Remote SSH и Jupyter на GPU-сервере](https://fullgpu.com/ru/docs/remote-development): Работа на GPU-сервере через VS Code Remote SSH, Jupyter на удалённом GPU через SSH-туннель и перенос данных с rsync и scp. Безопасные настройки, шаг за шагом.
- [Образ Ubuntu для GPU с предустановленной CUDA](https://fullgpu.com/ru/docs/os-images): Состав нашего образа Ubuntu для GPU с предустановленной CUDA, проверка версий драйвера и CUDA Toolkit, выбор 22.04 или 24.04 и надёжная фиксация драйвера.

## ПО для GPU

- [Как проверить версию CUDA и драйвера NVIDIA в Ubuntu](https://fullgpu.com/ru/docs/nvidia-drivers-cuda): Проверьте версии драйвера NVIDIA и CUDA в nvidia-smi и nvcc, узнайте, как они должны соотноситься, и добавьте CUDA Toolkit в Ubuntu 24.04 без смены драйвера.
- [Настройка ROCm для AMD Instinct MI355X](https://fullgpu.com/ru/docs/amd-rocm): Настройка ROCm на серверах AMD Instinct MI355X: проверка GPU в rocm-smi и amd-smi, группы пользователей, PyTorch и vLLM в контейнерах ROCm, тест RCCL.
- [Контейнеры Docker с GPU и NVIDIA Container Toolkit](https://fullgpu.com/ru/docs/docker-containers): Руководство по GPU в Docker с NVIDIA Container Toolkit: --gpus, выбор устройств, резервирование GPU в Compose, разделяемая память для PyTorch и контейнеры ROCm.
- [Инференс LLM на vLLM](https://fullgpu.com/ru/docs/pytorch-vllm): Инференс LLM с vLLM на вашем GPU-сервере: настройте Python через uv, установите PyTorch и vLLM, проверьте OpenAI-совместимый API и запустите его как службу.
- [Тесты NCCL на сервере с несколькими GPU: all_reduce_perf шаг за шагом](https://fullgpu.com/ru/docs/multi-gpu-nccl): Как запустить тесты NCCL на сервере с несколькими GPU: проверка топологии NVLink, сборка nccl-tests, busbw в all_reduce_perf и запуск задач torchrun на 8 GPU.
- [Команды nvidia-smi для мониторинга GPU-серверов](https://fullgpu.com/ru/docs/gpu-monitoring): Команды nvidia-smi для мониторинга загрузки GPU в Linux: просмотр в реальном времени, логи в CSV, nvtop, экспортер DCGM, ошибки ECC и Xid, аналоги в rocm-smi.

## Настройка сервера

- [Монтирование NVMe-дисков в Ubuntu](https://fullgpu.com/ru/docs/storage-nvme): Как смонтировать NVMe-диски в Ubuntu: поиск через lsblk, форматирование и запись в fstab по UUID или NVMe RAID 0 на mdadm. А также проверка состояния и бэкапы.
- [Настройка файрвола на GPU-сервере](https://fullgpu.com/ru/docs/networking-firewall): Настройка файрвола на GPU-сервере с ufw: сначала разрешите SSH, фильтруйте IPv6, обойдите ловушку с портами Docker и защитите эндпоинт vLLM с TLS и API-ключом.