# 租用 8 卡 AMD MI355X 服务器，每月 US$19,900

> MI355X 租用：一台 8 卡 AMD Instinct MI355X 裸金属服务器（每张 GPU 配备 288 GB HBM3e），US$19,900/月，约合每 GPU 小时 US$3.41。ROCm 环境已就绪，使用加密货币支付。

来源：https://fullgpu.com/zh/gpus/amd-mi355x  
更新日期：2026-10-23  
发布方：FullGPU (https://fullgpu.com/)

**简而言之：** FullGPU 按月出租 AMD Instinct MI355X：一台 8 卡 AMD Instinct MI355X 服务器（8 × 288 GB HBM3e），每月 US$19,900，约合每 GPU 小时 US$3.41。该配置库存有限，付款后 10 分钟内交付。费用从以美元计价的余额中支付，余额可用 Bitcoin、Ethereum、Monero、USDT（TRC-20）或 Solana 充值；无开通费，套餐可在任何一次月度续费前取消。

## FullGPU 的 MI355X 配置与月价

| 配置 | 类型 | 显存 | CPU | 内存 | 存储 | 网络 | 每月价格（美元） | 每 GPU 小时 | 供货情况 |
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- |
| [8× AMD Instinct MI355X](https://fullgpu.com/zh/gpus/amd-mi355x) | 8 卡服务器 | 8 × 288 GB HBM3e | 2× EPYC 9575F · 128 核 | 3 TB DDR5 | 8× 3.84 TB NVMe | 8× 400G RoCE | US$19,900 | US$3.41 | 库存有限，付款后10 分钟内交付 |

每 GPU 小时 = 月价 ÷ GPU 数量 ÷ 730 小时，仅用于与按小时计费的方案对比：所有套餐均按固定月价计费。

## AMD Instinct MI355X 规格（厂商公布）

| 规格项 | 参数值 | 备注 |
| --- | --- | --- |
| 架构 | CDNA 4 | AMD |
| 显存 | 288 GB HBM3e |   |
| 显存带宽 | 8 TB/s |   |
| FP4 | 10,100 TFLOPS | MXFP4 · 稠密 |
| FP8 | 5,000 TFLOPS | 稀疏算力 10,100 TFLOPS |
| BF16 / FP16 | 2,500 TFLOPS | 稀疏算力 5,000 TFLOPS |
| GPU 互联 | Infinity Fabric | 8 张 GPU 之间全互联 |
| 外形规格 | OAM 模组 · 液冷 |   |
| 最大功耗 | 1,400 W |   |

## MI355X 最擅长什么

- **单卡承载大模型:** 每张 GPU 配备 288 GB HBM3e，单卡即可装下 BF16 精度的 70B 模型，并为 KV 缓存留出空间。
- **单台服务器运行多个副本:** 8 张 288 GB GPU 无需张量并行，即可为 8 个相互独立的 70B 模型副本提供推理服务。
- **70B 模型全参数微调:** 2.3 TB HBM3e 可以容纳 70B 模型使用 Adam 时的完整训练状态，约 1.1 至 1.4 TB。
- **ROCm 科研与高性能计算:** 一台裸金属 AMD Instinct 服务器，配备 128 个 EPYC 核心和 3 TB DDR5 内存，适合在 ROCm 上运行科学计算代码。

## 何时选择其他 GPU 更合适

- [租用 NVIDIA B300 与 HGX B300 服务器，每月 US$5,190 起](https://fullgpu.com/zh/gpus/nvidia-b300): 如果您的代码依赖仅支持 CUDA 的库，或者只需要一张而非 8 张 GPU，B300 同样提供每张 GPU 288 GB 显存。
- [租用 NVIDIA H200 与 HGX H200 服务器，每月 US$3,090 起](https://fullgpu.com/zh/gpus/nvidia-h200): 当每张 GPU 141 GB 显存已经够用，并且您想使用久经考验的 CUDA 推理软件栈时，可以单卡起租，每月 US$3,090。
- [租用 NVIDIA B200 与 HGX B200 服务器，每月 US$4,590 起](https://fullgpu.com/zh/gpus/nvidia-b200): 当您需要任意两张 GPU 之间 1.8 TB/s 的 NVLink 5 互联，以及整个 CUDA 生态对 FP4 的支持时。

## 概览

如果您想租用 AMD MI355X 算力，我们提供的是一台搭载 8 张 MI355X GPU 的 AMD Instinct 裸金属服务器，每月 US$19,900。一台机器即拥有 2.3 TB HBM3e，按月从您用加密货币充值的预付余额中支付，交付时 ROCm 镜像已准备就绪。我们不提供单卡 MI355X 套餐：8 卡服务器是唯一的配置，且库存有限。

## MI355X 是什么

MI355X 是 AMD 基于 CDNA 4 架构的 Instinct 加速器。根据 AMD 公布的规格，每张 GPU 配备 288 GB HBM3e 显存，显存带宽 8 TB/s，FP8 稠密算力 5.0 PFLOPS，BF16 稠密算力 2.5 PFLOPS。CDNA 4 还新增了对 MXFP4 格式的支持，AMD 标称其算力为 10.1 PFLOPS。这款 GPU 为 OAM 模组，额定功耗 1,400 W，采用液冷散热。

它的互联方式与 NVIDIA 的 HGX 服务器不同。AMD 标称每张 GPU 有 7 条 153.6 GB/s 的 Infinity Fabric 链路，合计约 1.08 TB/s；在 8 卡平台中，每张 GPU 都与其余 7 张直接相连。像 all-reduce 这样的集合通信操作会把流量分散到所有对端，因此可以同时用上全部 7 条链路；而仅在两张 GPU 之间的传输只能使用一条链路。相比之下，HGX B200 和 B300 服务器中的每张 GPU 与任一对端之间都有 1.8 TB/s 的 NVLink 带宽。我们有一篇[介绍 AMD MI355X 在 AI 领域应用的文章](https://fullgpu.com/zh/blog/amd-mi355x-for-ai)，对其架构有更深入的讲解。

## 8 卡 AMD Instinct 服务器，而非单卡

如果您在寻找按卡出售的 MI355X 云实例，请注意：这款 GPU 我们只按整台服务器出租。您将获得整台机器：两颗 AMD EPYC 9575F 处理器（共 128 核）、3 TB DDR5 内存、8 块 3.84 TB NVMe 硬盘（约 30 TB），以及 8 块用于多节点任务的 400G RoCE 网卡。这是裸金属服务器，因此您的代码与 GPU 之间没有任何虚拟化层（hypervisor）。

这种规格适合工作量足以让 8 张 GPU 保持忙碌的团队：为多个大模型提供推理服务、进行微调，或运行已适配 ROCm 的科研代码。如果您只需要一张 288 GB 的 GPU，[单卡 NVIDIA B300](https://fullgpu.com/zh/gpus/nvidia-b300) 在 CUDA 平台上提供相同的单卡显存，每月 US$5,190。

## 显存估算：每张 GPU 288 GB，每台服务器 2.3 TB

权重约为每个参数 2 字节（BF16）或 1 字节（FP8），再加上 KV 缓存和 10–30% 的余量。按每张 GPU 288 GB 计算：

- **BF16 精度的 70B 模型：**约 140 GB，单张 GPU 即可装下，还能为 KV 缓存留出远超 100 GB 的空间。一台服务器可以运行 8 个相互独立的 70B 副本，无需张量并行，也不产生 GPU 间流量。
- **FP8 精度的 405B 级模型：**约 405 GB，两张 GPU 即可装下。每台服务器最多可以运行 4 个副本，也可以把一个副本分布到全部 8 张 GPU 上，以获得大得多的 KV 缓存。
- **FP8 精度的 671B 混合专家（MoE）模型：**约 671 GB，至少需要 3 张 GPU，整台服务器还剩约 1.6 TB 可用于 KV 缓存和运行开销。
- **70B 模型全参数微调：**使用 Adam 优化器时，不计激活值，每个参数大约需要 16–20 字节，即约 1.1–1.4 TB，可以装入 2.3 TB 的 HBM3e，还剩约 0.9–1.2 TB 留给激活值。

我们的[显存计算器](https://fullgpu.com/zh/tools/vram-calculator)可以为其他模型和精度做同样的计算。

## ROCm 软件：哪些可以直接运行，哪些需要检查

服务器提供 SSH root 权限和 ROCm 镜像；Debian 或 Rocky Linux 可应要求提供。PyTorch 有官方的 ROCm 版本，保留了大家熟悉的 `torch.cuda` 接口，因此只使用标准算子的 PyTorch 代码通常无需修改即可运行；vLLM 也支持在 ROCm 上提供推理服务。可以先这样检查：

```
rocm-smi                                  # GPUs, memory use, temperature
docker run -it --device=/dev/kfd --device=/dev/dri --group-add video \
  --ipc=host --shm-size 16g rocm/pytorch:latest \
  python -c "import torch; print(torch.cuda.device_count())"
```

需要测试的是：自定义 CUDA 内核（必须移植到 HIP），以及只提供 CUDA 二进制文件的库，例如部分量化或注意力内核。多 GPU 任务使用 RCCL，即 AMD 与 NCCL 相对应的通信库。我们的 [ROCm 文档](https://fullgpu.com/zh/docs/amd-rocm)有详细说明。由于最短期限只有一个月，您可以先在真实硬件上验证自己的软件栈，再决定是否签订更长的租期。

## MI355X 价格：每月与每 GPU 小时

8 卡 MI355X 服务器每月 US$19,900，满负荷使用时约合每 GPU 小时 US$3.41，即月价除以 8 张 GPU，再除以 730 小时。在我们自己的产品目录中，HGX B300 同样在 8 张 GPU 上共配备 2.3 TB HBM，价格为 US$39,900；HGX H200 配备 1.1 TB，价格为 US$23,900。在我们的 8 卡服务器中，MI355X 每美元可获得的 GPU 显存最多；代价是放弃 CUDA 生态和 NVLink 的交换式互联架构。我们的 [MI355X 与 B200 对比](https://fullgpu.com/zh/compare/mi355x-vs-b200)和 [MI355X 与 H200 对比](https://fullgpu.com/zh/compare/mi355x-vs-h200)详细权衡了这些取舍。

与按小时计费相比，盈亏平衡点是 US$19,900 除以您租用 8 张同级 GPU 时每小时需支付的价格。如果您一个月中大部分时间都需要这台服务器，按月计费更划算；如果只是测试几天，在提供按小时计费的地方，按小时付费更省钱。价格包含每月 50 TB 出站流量，不收取出站流量费；另含一个公网 IPv4 地址和一个 IPv6 /64 网段、DDoS 防护、工程师 7×24 小时支持，以及 99.9% 可用性 SLA（服务等级协议）。不收取开通费。

## 订购 MI355X 服务器

请在[部署页面](https://fullgpu.com/zh/deploy)订购这台服务器：选择配置，设置操作系统镜像、可选的预装软件和登录方式（root 密码或 SSH 密钥），并在同一表单中免费创建账户或登录。随后，您用预付余额支付首月费用；余额可通过 BTC、ETH、XMR、TRON 网络上的 USDT 或 SOL 充值，单笔充值每满 US$100 可获得 +5% 赠送额度，US$1,000 起最高 +50%；银行卡支付即将推出。SSH root 权限会在付款后 10 分钟内开通，IP 地址和 SSH 登录信息显示在您的控制台中。如果已付款的服务器未能在当天交付，您可以取消订单，全额退款至余额。大多数订单只需要账户和已充值的余额；订购多台 8 卡服务器时，可能需要先完成身份验证。拥有运行中服务器的客户，可以在控制台提交工单，咨询批量价格或 6–12 个月的长期价格。

## 常见问题

### 租用一台 AMD MI355X 服务器需要多少钱？

8 卡 MI355X 服务器每月 US$19,900，满负荷使用时约合每 GPU 小时 US$3.41。价格固定，不收取开通费，并包含每月 50 TB 出站流量。

### 可以只租用一张 MI355X GPU 吗？

不可以。我们只以 8 卡裸金属服务器的形式提供 MI355X。如需一张配备 288 GB 显存的单卡，请参阅 NVIDIA B300。

### PyTorch 能在 MI355X 上运行吗？

可以。PyTorch 有官方 ROCm 版本，使用同样的 torch.cuda 接口，vLLM 也支持 ROCm。自定义 CUDA 内核和仅支持 CUDA 的库需要移植到 ROCm，或改用替代方案。

### 有哪些操作系统镜像可用？

我们为 AMD 服务器提供 ROCm 镜像，并开放 SSH root 权限。Debian 或 Rocky Linux 可应要求提供。

### MI355X 现在有货吗？

库存有限。本页的配置卡片显示当前库存情况，服务器在付款后 10 分钟内交付。

### MI355X 服务器会与其他客户共享吗？

不会。这是一台裸金属机器，全部 8 张 GPU 都由您独享；更换客户前，其硬盘都会被安全擦除。

## 相关页面

- [8 卡 GPU 服务器租用：裸金属 NVIDIA HGX 与 AMD Instinct](https://fullgpu.com/zh/products/8-gpu-servers): 裸金属 8 卡 GPU 服务器租用：可选 NVIDIA HGX B300、B200、H200、H100，AMD MI355X 或 8× RTX PRO 6000。每月含 50 TB 流量，按月租用，付款后 10 分钟内交付。
- [大模型训练 GPU 服务器：独享 8 卡节点](https://fullgpu.com/zh/solutions/llm-training): 大模型训练 GPU 服务器：HGX B300、B200 和 H200 裸金属节点，GPU 之间通过 NVLink 互联，并配备 400–800G 网络，按月租用。下单前，先看看显存该怎么算。
- [大模型推理 GPU 服务器：7×24 小时运行，价格固定](https://fullgpu.com/zh/solutions/inference): 大模型推理 GPU 服务器，可运行 vLLM、SGLang 或 TensorRT-LLM：本文介绍 KV 缓存估算以及 FP8 与 FP4 的选择，价格含每月 20–50 TB 流量。查看完整的选型计算。
- [面向科研与高性能计算的 GPU 服务器，按固定月度预算租用](https://fullgpu.com/zh/solutions/research-hpc): 科研与高性能计算 GPU 服务器租用：H100、H200 和 MI355X，附厂商公布的 FP64 算力数据，支持 CUDA 或 ROCm，月度预算固定。根据您的代码选择合适的 GPU。
- [预装 CUDA 的 Ubuntu GPU 镜像](https://fullgpu.com/zh/docs/os-images): 了解我们预装 CUDA 的 Ubuntu GPU 镜像包含哪些内容，如何查看驱动和 CUDA 工具包版本、在 22.04 与 24.04 之间做出选择，以及如何安全地锁定驱动版本。
- [GPU 成本计算器：按月与按小时租用 GPU 对比](https://fullgpu.com/zh/tools/gpu-cost-calculator): 使用这款 GPU 成本计算器，比较按小时租用和按月租用 GPU 的费用：查看每月总费用、盈亏平衡所需的小时数，以及在做出决定之前应当计入的各项额外成本。