租用 8 卡 AMD MI355X 服务器，每月 US$19,900

如果您想租用 AMD MI355X 算力，我们提供的是一台搭载 8 张 MI355X GPU 的 AMD Instinct 裸金属服务器，每月 US$19,900。一台机器即拥有 2.3 TB HBM3e，按月从您用加密货币充值的预付余额中支付，交付时 ROCm 镜像已准备就绪。我们不提供单卡 MI355X 套餐：8 卡服务器是唯一的配置，且库存有限。

MI355X 是什么

MI355X 是 AMD 基于 CDNA 4 架构的 Instinct 加速器。根据 AMD 公布的规格，每张 GPU 配备 288 GB HBM3e 显存，显存带宽 8 TB/s，FP8 稠密算力 5.0 PFLOPS，BF16 稠密算力 2.5 PFLOPS。CDNA 4 还新增了对 MXFP4 格式的支持，AMD 标称其算力为 10.1 PFLOPS。这款 GPU 为 OAM 模组，额定功耗 1,400 W，采用液冷散热。

它的互联方式与 NVIDIA 的 HGX 服务器不同。AMD 标称每张 GPU 有 7 条 153.6 GB/s 的 Infinity Fabric 链路，合计约 1.08 TB/s；在 8 卡平台中，每张 GPU 都与其余 7 张直接相连。像 all-reduce 这样的集合通信操作会把流量分散到所有对端，因此可以同时用上全部 7 条链路；而仅在两张 GPU 之间的传输只能使用一条链路。相比之下，HGX B200 和 B300 服务器中的每张 GPU 与任一对端之间都有 1.8 TB/s 的 NVLink 带宽。我们有一篇介绍 AMD MI355X 在 AI 领域应用的文章，对其架构有更深入的讲解。

8 卡 AMD Instinct 服务器，而非单卡

如果您在寻找按卡出售的 MI355X 云实例，请注意：这款 GPU 我们只按整台服务器出租。您将获得整台机器：两颗 AMD EPYC 9575F 处理器（共 128 核）、3 TB DDR5 内存、8 块 3.84 TB NVMe 硬盘（约 30 TB），以及 8 块用于多节点任务的 400G RoCE 网卡。这是裸金属服务器，因此您的代码与 GPU 之间没有任何虚拟化层（hypervisor）。

这种规格适合工作量足以让 8 张 GPU 保持忙碌的团队：为多个大模型提供推理服务、进行微调，或运行已适配 ROCm 的科研代码。如果您只需要一张 288 GB 的 GPU，单卡 NVIDIA B300 在 CUDA 平台上提供相同的单卡显存，每月 US$5,190。

显存估算：每张 GPU 288 GB，每台服务器 2.3 TB

权重约为每个参数 2 字节（BF16）或 1 字节（FP8），再加上 KV 缓存和 10–30% 的余量。按每张 GPU 288 GB 计算：

• BF16 精度的 70B 模型：约 140 GB，单张 GPU 即可装下，还能为 KV 缓存留出远超 100 GB 的空间。一台服务器可以运行 8 个相互独立的 70B 副本，无需张量并行，也不产生 GPU 间流量。
• FP8 精度的 405B 级模型：约 405 GB，两张 GPU 即可装下。每台服务器最多可以运行 4 个副本，也可以把一个副本分布到全部 8 张 GPU 上，以获得大得多的 KV 缓存。
• FP8 精度的 671B 混合专家（MoE）模型：约 671 GB，至少需要 3 张 GPU，整台服务器还剩约 1.6 TB 可用于 KV 缓存和运行开销。
• 70B 模型全参数微调：使用 Adam 优化器时，不计激活值，每个参数大约需要 16–20 字节，即约 1.1–1.4 TB，可以装入 2.3 TB 的 HBM3e，还剩约 0.9–1.2 TB 留给激活值。

我们的显存计算器可以为其他模型和精度做同样的计算。

ROCm 软件：哪些可以直接运行，哪些需要检查

服务器提供 SSH root 权限和 ROCm 镜像；Debian 或 Rocky Linux 可应要求提供。PyTorch 有官方的 ROCm 版本，保留了大家熟悉的 torch.cuda 接口，因此只使用标准算子的 PyTorch 代码通常无需修改即可运行；vLLM 也支持在 ROCm 上提供推理服务。可以先这样检查：

rocm-smi                                  # GPUs, memory use, temperature
docker run -it --device=/dev/kfd --device=/dev/dri --group-add video \
  --ipc=host --shm-size 16g rocm/pytorch:latest \
  python -c "import torch; print(torch.cuda.device_count())"

需要测试的是：自定义 CUDA 内核（必须移植到 HIP），以及只提供 CUDA 二进制文件的库，例如部分量化或注意力内核。多 GPU 任务使用 RCCL，即 AMD 与 NCCL 相对应的通信库。我们的 ROCm 文档有详细说明。由于最短期限只有一个月，您可以先在真实硬件上验证自己的软件栈，再决定是否签订更长的租期。

MI355X 价格：每月与每 GPU 小时

8 卡 MI355X 服务器每月 US$19,900，满负荷使用时约合每 GPU 小时 US$3.41，即月价除以 8 张 GPU，再除以 730 小时。在我们自己的产品目录中，HGX B300 同样在 8 张 GPU 上共配备 2.3 TB HBM，价格为 US$39,900；HGX H200 配备 1.1 TB，价格为 US$23,900。在我们的 8 卡服务器中，MI355X 每美元可获得的 GPU 显存最多；代价是放弃 CUDA 生态和 NVLink 的交换式互联架构。我们的 MI355X 与 B200 对比和 MI355X 与 H200 对比详细权衡了这些取舍。

与按小时计费相比，盈亏平衡点是 US$19,900 除以您租用 8 张同级 GPU 时每小时需支付的价格。如果您一个月中大部分时间都需要这台服务器，按月计费更划算；如果只是测试几天，在提供按小时计费的地方，按小时付费更省钱。价格包含每月 50 TB 出站流量，不收取出站流量费；另含一个公网 IPv4 地址和一个 IPv6 /64 网段、DDoS 防护、工程师 7×24 小时支持，以及 99.9% 可用性 SLA（服务等级协议）。不收取开通费。

订购 MI355X 服务器

请在部署页面订购这台服务器：选择配置，设置操作系统镜像、可选的预装软件和登录方式（root 密码或 SSH 密钥），并在同一表单中免费创建账户或登录。随后，您用预付余额支付首月费用；余额可通过 BTC、ETH、XMR、TRON 网络上的 USDT 或 SOL 充值，单笔充值每满 US$100 可获得 +5% 赠送额度，US$1,000 起最高 +50%；银行卡支付即将推出。SSH root 权限会在付款后 10 分钟内开通，IP 地址和 SSH 登录信息显示在您的控制台中。如果已付款的服务器未能在当天交付，您可以取消订单，全额退款至余额。大多数订单只需要账户和已充值的余额；订购多台 8 卡服务器时，可能需要先完成身份验证。拥有运行中服务器的客户，可以在控制台提交工单，咨询批量价格或 6–12 个月的长期价格。