# GPU 服务器配置协助，由我们的工程师提供

> GPU 服务器配置协助，每台服务器均已包含：交付后，我们的工程师协助您完成首次启动检查，并就环境配置与数据迁移提供建议；下单前，还有选型工具帮您确定服务器规格。

来源：https://fullgpu.com/zh/products/expert-onboarding  
更新日期：2026-10-22  
发布方：FullGPU (https://fullgpu.com/)

## 要点

- **下单前选型:** 显存计算器、GPU 页面和文档会针对您的模型、精度和工作负载，给出显存的估算方法。
- **首次启动检查:** 用 nvidia-smi 确认每一张 GPU；在 8 卡服务器上，还要用 NCCL 测试 GPU 互联。
- **环境建议:** 驱动、CUDA 或 ROCm、容器和框架：就如何让您的软件栈在您的镜像上运行起来提供建议。
- **数据迁移建议:** 如何把数据集和检查点迁移到您的新服务器。入站流量不计入您的流量额度。
- **7×24 小时，不额外收费:** 属于每台服务器都包含的支持服务；服务器交付后，通过您控制台中的工单提供。
- **您的服务器，由您掌控:** 我们提供的是协助和建议。您保留完整的 root 权限，我们不代为运行您的工作负载。

## 推荐配置

- [NVIDIA H200](https://fullgpu.com/zh/gpus/nvidia-h200): 每月 US$3,090 — 141 GB：运行 FP8 精度的 70B 模型，并为 KV 缓存留出空间
- [8× NVIDIA HGX H100](https://fullgpu.com/zh/gpus/nvidia-h100): 每月 US$16,900 — 8 张 H100 通过 NVLink 互联，交付时协助您运行 NCCL 测试
- [NVIDIA B200](https://fullgpu.com/zh/gpus/nvidia-b200): 每月 US$4,590 — 180 GB：单张 GPU 即可运行 BF16 精度的 70B 模型

## 概览

GPU 服务器配置协助是每台 FullGPU 服务器的标配。作为 7×24 小时支持的一部分，我们的工程师会在交付后帮您检查服务器，并协助您把环境和数据准备就绪，不额外收费；下单前，我们的计算器和指南可以帮您确定服务器规格。这是协助和建议：您保留完整的 root 权限和完全的控制权，我们不会替您运行工作负载。

## GPU 服务器配置协助包括哪些内容

上手协助涵盖三个阶段：下单前、服务器交付时，以及您把工作迁移过来的过程中。下单前，帮助中心、文档、GPU 页面和计算器可以解答选型问题；服务器交付后，工程师会通过您控制台中的支持工单随时提供帮助。

| 阶段 | 我们协助的内容 |
| --- | --- |
| 下单前 | 借助显存计算器和我们的指南，根据您的模型和工作负载选择 GPU 型号和数量 |
| 交付时 | 首次启动检查：GPU、拓扑、容器，8 卡服务器还包括 NCCL 测试 |
| 迁入阶段 | 驱动、CUDA 或 ROCm、容器、框架和数据迁移 |

## 下单前选型

大部分成本在您选择 GPU 时就已确定。下单前，请先弄清：

- 模型、它的参数量，以及您计划使用的精度；
- 您要做的是训练、微调还是推理服务；如果是推理服务，还要明确预期的上下文长度和并发量；
- 数据集的大小，以及您需要这些算力多长时间。

[显存计算器](https://fullgpu.com/zh/tools/vram-calculator)会把这些信息换算成显存估算值，每个 GPU 页面也列出了能装下哪些模型。一个典型结果：70B 模型在 FP8 精度下约需 70 GB，因此一张 H100 只能勉强装下，一张 H200 则绰绰有余。在 BF16 精度下约需 140 GB，H200 只能勉强装下，B200 或 B300 则绰绰有余。这些数字只包括权重；还要加上 KV 缓存，并预留 10–30% 的余量。使用 Adam 优化器做全参数微调时，不计激活值，每个参数大约需要 16–20 字节，因此 70B 模型就成了多 GPU 任务。[部署](https://fullgpu.com/zh/deploy)时，请在给我们工程师的备注中描述您的工作负载。

## 交付后的首次启动检查

服务器交付、IP 地址和 SSH 登录信息出现在您的控制台中之后，请在正式开始工作前先做几项检查。我们会帮您解读输出结果。

```
nvidia-smi
nvidia-smi topo -m
docker run --rm --gpus all ubuntu nvidia-smi
```

第一条命令确认每一张 GPU 都可见，且显存完整。第二条显示 GPU 互联情况；在 HGX 服务器上，即全部 8 张 GPU 之间的 NVLink。第三条确认容器能够访问 GPU。

在 8 卡服务器上，NCCL all-reduce 测试会让互联链路承受负载。请编译 NVIDIA 的 nccl-tests，然后运行，例如：

```
./build/all_reduce_perf -b 8 -e 8G -f 2 -g 8
```

如果少了某张 GPU，或总线带宽明显偏低，请在支持工单中把输出发给我们。硬件故障由我们负责修复：发生故障的 GPU 和组件会被优先更换。在 AMD MI355X 服务器上，对应的工具是 `rocm-smi` 和 RCCL 测试。[多 GPU 与 NCCL 指南](https://fullgpu.com/zh/docs/multi-gpu-nccl)对这些测试有更详细的介绍。

## 环境与数据迁移建议

关于镜像与您的代码之间这一层的问题，请提交支持工单：

- **驱动与 CUDA。**您的框架需要哪个驱动分支，以及容器的 CUDA 版本是否与主机驱动匹配。
- **容器。**使用 Docker 和 NVIDIA Container Toolkit 运行的 GPU 容器，或 AMD 上的 ROCm 容器。
- **框架。**让 PyTorch、vLLM、SGLang 或 TensorRT-LLM 用上每一张 GPU，以及对多 GPU 运行至关重要的设置。

在数据迁移方面，我们会就如何从其他服务商或您之前的 FullGPU 服务器迁移数据集、检查点和模型权重提供建议：目录通过 SSH 用 `rsync` 传输，大规模传输使用并行流，删除源数据之前先核对校验和。入站流量不计入额度，因此上传到新服务器不会占用您所含的流量。如果您当前的服务商对出站流量收费，请为对方那一侧的这笔费用做好预算。我们的 [PyTorch 与 vLLM 指南](https://fullgpu.com/zh/docs/pytorch-vllm)和[操作系统镜像](https://fullgpu.com/zh/products/os-images)页面介绍了软件方面的内容。

## GPU 上手协助不包括哪些内容

上手协助是协助和建议，而不是代运维服务。我们不会：

- 运行、监控或重启您的训练任务或推理服务；
- 维护您的应用代码、模型或容器；
- 备份您的数据，除非另有书面约定；
- 访问您的数据，除非是为应您的要求运营或维修服务，或法律有此要求。

我们负责的是基础设施：电力、网络和硬件，由附带服务赔偿额度的 99.9% 月度可用性 SLA（服务等级协议）保障，背后还有 7×24 小时的支持。如果某张 GPU 发生故障，由我们负责修复。您的工作负载仍由您自己运行。

## 如何获得配置协助

下单前，您可以在[帮助中心](https://fullgpu.com/zh/help)、文档、GPU 页面和计算器中找到答案；下单时，可以在给我们工程师的备注中描述您的工作负载；服务器交付后，请在控制台提交支持工单，工程师会随时答复。请写明是哪台服务器、您想要完成什么，并附上相关的命令输出。无需另付费用，也无需预约。我们的[获取支持](https://fullgpu.com/zh/help/getting-support)页面说明了申请中应包含哪些信息。

## 常见问题

### 配置协助需要额外付费吗？

不需要。它属于每台服务器都包含的工程师 7×24 小时支持。

### FullGPU 会替我搭建并运行训练任务或推理服务吗？

不会。我们会在选型、驱动、容器、框架和数据迁移方面提供协助和建议，但工作负载由您凭借完整的 root 权限自行运行，我们不代为运维。

### 首次启动时应该做哪些检查？

运行 nvidia-smi，确认每一张 GPU 及其显存；在 8 卡服务器上，还要运行 NCCL 测试来检查互联。如有任何异常，请在支持工单中把输出发给我们。

### FullGPU 能帮我从其他服务商迁移数据吗？

可以，我们会就工具和方法提供建议，例如通过 SSH 使用 rsync 并核对校验和。入站流量不计入您的流量额度。

### 如何联系工程师？

服务器交付后，通过控制台中的支持工单联系；下单前，您可以在帮助中心、文档、GPU 页面和计算器中找到答案。工程师 7×24 小时处理工单，因此请写明是哪台服务器、您的目标，并附上相关的命令输出。

## 相关页面

- [GPU 服务器快速入门](https://fullgpu.com/zh/docs/quickstart): GPU 服务器快速入门，适用于新交付的 FullGPU 服务器：通过 SSH 登录、检查各张 GPU、更新 Ubuntu 系统，再运行第一个 GPU 容器，每一步都附有检查方法。
- [在多 GPU 服务器上运行 NCCL 测试：all_reduce_perf 分步指南](https://fullgpu.com/zh/docs/multi-gpu-nccl): 在多 GPU 服务器上运行 NCCL 测试：检查 NVLink 拓扑，编译 nccl-tests，读懂 all_reduce_perf 输出中的 busbw，并在全部 8 张 GPU 上启动 torchrun 任务。
- [大语言模型显存计算器：您的模型能装进 GPU 吗？](https://fullgpu.com/zh/tools/vram-calculator): 免费 LLM 显存计算器：选择 Llama、Qwen、Mistral 或 gpt-oss，设置精度和上下文长度，即可查看权重和 KV 缓存各占多少显存，以及哪些 GPU 装得下该模型。
- [GPU 服务器支持：工单的运作方式](https://fullgpu.com/zh/help/getting-support): FullGPU 的 GPU 服务器支持 7×24 小时提供，由工程师通过您控制台中的工单处理。了解谁可以提交工单、工单中应写明哪些信息，以及哪些事务无需提交工单。
- [GPU 服务器操作系统镜像：预装 CUDA、ROCm 与 Docker](https://fullgpu.com/zh/products/os-images): GPU 服务器操作系统镜像：Ubuntu 22.04 与 24.04，预装 NVIDIA 驱动、CUDA、Docker 和 Container Toolkit；AMD 服务器另有 ROCm 镜像。了解镜像中预装了哪些软件。
- [如何为 AI 选择 GPU 服务器](https://fullgpu.com/zh/blog/how-to-choose-a-gpu-server): 如何为 AI 选择 GPU 服务器？本文提供一套完整的选型框架，逐项讲解显存、显存带宽、精度、互联、CPU 与存储、软件生态和计费方式，并附一份下单前检查清单。