科研与高性能计算

面向科研与高性能计算的 GPU 服务器,按固定月度预算租用

在独享 GPU 上运行仿真模拟、科学计算代码和科学智能(AI for Science)任务,价格在每月开始前就已确定。按数值精度、显存带宽和软件栈来选择。

  • 整卡独享,绝不共享
  • 任何月份均可取消
  • 按期交付,否则全额退款

推荐配置

  • 8× NVIDIA HGX H100 8× H100 通过 NVLink 互联,适合 MPI 和多 GPU 仿真 8× 80 GB HBM3 现货
    US$16,900/月
  • 8× AMD Instinct MI355X 每张 GPU 288 GB,FP64 向量算力 78.6 TFLOPS(AMD 公布) 8× 288 GB HBM3e 库存有限
    US$19,900/月
  • NVIDIA H100 SXM 单张 H100,适合代码移植、原型开发和单 GPU 代码 80 GB HBM3 现货
    US$2,190/月
对比全部 15 种配置

亮点

  • FP64 用在关键处

    CUDA 代码选 H100 和 H200,ROCm 选 MI355X,依据厂商公布的双精度性能数据来选择。

  • 高显存带宽

    根据厂商规格,MI355X 每张 GPU 的带宽高达 8 TB/s,H200 为 4.8 TB/s。

  • 8 卡裸金属节点

    HGX H100 和 H200 节点配备 2 TB DDR5 内存,MI355X 节点配备 3 TB,每个节点另有 8 块 NVMe 硬盘。

  • 固定月度预算

    每台服务器一个固定价格,按月预付,所含流量额度内不收取出站流量费。

  • CUDA 或 ROCm 镜像

    Ubuntu 预装 NVIDIA 驱动和 CUDA(AMD 服务器为 ROCm),并预装 Docker。Debian 或 Rocky Linux 可应要求提供。

  • 私有网络

    可应要求将您的多台服务器连接到私有网络中,用于多节点任务。

选择科研与高性能计算(HPC)GPU 服务器,首先要看它是否匹配您代码的数值特性。以混合精度运行的分子动力学软件包、全程需要 FP64 的 CFD 求解器,以及以 BF16 运行的蛋白质模型,所需的硬件各不相同。我们按月出租搭载 CUDA 的 NVIDIA H100 和 H200 服务器,以及搭载 ROCm 的 AMD Instinct MI355X 服务器,让每个项目都能使用独享 GPU,价格在项目开始前就已确定。

FP64:何时重要,该选哪款 GPU

对于舍入误差会不断累积的代码,双精度至关重要:电子结构和量子化学软件包、许多 CFD 和有限元求解器,以及部分气候和天体物理模型。许多分子动力学引擎(例如 GROMACS 和 AMBER)的 GPU 代码路径以混合精度运行,科学智能模型则以 BF16 或 FP8 运行。对它们来说,FP64 吞吐量并不是决定性的指标。

GPUFP64(厂商公布)显存带宽软件栈
H100 SXM34 TFLOPS,FP64 Tensor Core 为 67 TFLOPS80 GB HBM33.35 TB/sCUDA
H20034 TFLOPS,FP64 Tensor Core 为 67 TFLOPS141 GB HBM3e4.8 TB/sCUDA
MI355X78.6 TFLOPS(向量)288 GB HBM3e8 TB/sROCm

H100 和 H200 的数据由 NVIDIA 公布,MI355X 的数据由 AMD 公布。FP64 Tensor Core 吞吐量适用于矩阵运算,例如通过 cuBLAS 执行、以 DGEMM 为主的稠密线性代数;向量算力则适用于其他所有运算。RTX PRO 6000、RTX 5090 和 L40S 专为图形、AI 和单精度计算而设计,因此我们不建议将它们用于受 FP64 性能制约的代码。至于 Blackwell 数据中心 GPU,在选择某一款用于双精度计算之前,请先查阅 NVIDIA 针对您所选具体型号的最新 FP64 规格。

如何选择科研与高性能计算 GPU 服务器

许多 HPC 代码,包括模板计算(stencil)、稀疏求解器和格点方法,受限于显存带宽而非峰值 FLOPS,因此 H200 的 4.8 TB/s 或 MI355X 的 8 TB/s 可能比任何算力数字都更重要。每张 GPU 的显存决定了无需进一步分解就能容纳的最大计算域。一个 1,000 × 1,000 × 1,000 个单元、每个单元 10 个变量的双精度三维网格约占 80 GB:这会占满一张 H100,但在 H200 或 MI355X 上装得下,还能为求解器留出工作空间。

  • 单张 H100:移植代码、做性能分析和验证,或运行单 GPU 任务。
  • HGX H100 或 HGX H200:8 张 GPU 通过 NVLink 互联,每张 GPU 900 GB/s,用于边界(halo)交换和集合通信;8 块 400G ConnectX-7 网卡用于多节点运行;另有 2 TB DDR5 内存。
  • 8× MI355X:单个节点内有 2.3 TB HBM3e、3 TB DDR5 内存和 8 块 400G RoCE 网卡,适合在 ROCm 上求解受显存限制的大型问题。请参阅 AMD Instinct MI355X 页面。

如需跨节点运行 MPI,请在订单备注中申请在您的服务器之间配置私有网络。

先做性能分析,再扩大规模

在预订一台 8 卡节点并连续租用数月之前,先在一张 GPU 上做性能分析。NVIDIA Nsight Systems 和 Nsight Compute(AMD 上则用 rocprof)能显示一个内核受限于显存带宽还是算力,从而告诉您 H200 多出的带宽或 MI355X 的 FP64 算力是否物有所值。然后测量从一张 GPU 扩展到两张、四张和八张时的强扩展性:如果超过四张后效率急剧下降,就在这台节点上同时运行两个四卡任务,或者改为租用单卡服务器。存储也按同样的思路规划。检查点重启文件和输出场数据增长得很快;HGX 和 MI355X 节点各配备 8 块 3.84 TB NVMe 硬盘,原始容量约 30 TB,可用作暂存空间,每月还含 50 TB 出站流量,便于把结果传回本地。

CUDA、ROCm 与您的软件栈

NVIDIA 服务器以预装驱动、CUDA、Docker 和 NVIDIA Container Toolkit 的 Ubuntu 22.04 或 24.04 为起点。您可以再添加 NVIDIA HPC SDK、GPU 感知的 MPI(例如搭配 UCX 的 Open MPI),或您课题组的容器。如果您本单位的集群使用 Apptainer,也请在服务器上安装它,这样同一套镜像在两边都能运行。配置说明见我们的 NVIDIA 驱动与 CUDA 指南。

AMD 服务器使用 ROCm 镜像。CUDA 代码需要移植到 HIP(hipify 工具可以帮助自动完成移植),或改用 Kokkos、SYCL 或 OpenMP offload 等可移植后端。PyTorch 和 JAX 都有 ROCm 版本。选择 MI355X 之前,请确认您的代码及其所用版本支持 ROCm,并从我们的 ROCm 指南入手。Debian 或 Rocky Linux 镜像可应要求提供。

科研项目的固定月度预算

每台服务器一个固定价格,按月预付,在每个已付费月份内保持不变;今后月份的价格如有任何变动,我们会至少提前 30 天通知。在一台 HGX H100 节点上开展为期三个月的仿真计算,费用为 3 × US$16,900 = US$50,700,每月含 50 TB 出站流量,入站流量不计入。单张 H100 每月 US$2,190,8× MI355X 节点每月 US$19,900。

当共享集群在截止日期前排满时,独享节点让您免于排队等待,还提供 root 权限,便于搭建自定义软件栈。如果每月只是集中使用几天,在其他地方按小时租用算力会更便宜。拥有运行中的服务器后,您可以通过工单咨询 6–12 个月的长期价格,或多台服务器(通常从三台起)的批量价格。需要与科研经费和采购部门打交道的实验室,还应阅读我们的高校与科研实验室 GPU 服务器页面。

开始使用

在一张表单中即可部署服务器:选择配置,设置操作系统镜像、可选的预装软件和登录方式(root 密码或 SSH 密钥),免费创建账户或登录,然后用预付余额支付首月费用,余额通过加密货币充值。您可以在给工程师的选填备注中写明您的代码、精度、问题规模和节点数量。承诺交付日期会在付款前显示,IP 地址和 SSH 登录信息会在该日期前出现在您的控制台中;如果我们未能按期交付,您可以取消订单,全额退款至余额。我们的工程师通过您控制台中的工单,提供 7×24 小时故障支持。

8× NVIDIA HGX H100

US$16,900/月 · 现货 · 付款前显示承诺交付日期。

对比全部 15 种配置

常见问题

有问必答。

以下为简要说明。详细内容请查阅帮助中心;拥有运行中服务器的客户可通过工单获得 7×24 小时解答。

访问帮助中心
H100、H200 和 MI355X 的 FP64 性能相比如何?

AMD 公布的 MI355X FP64 向量算力为 78.6 TFLOPS。NVIDIA 公布的 H100 SXM 和 H200 的 FP64 算力均为 34 TFLOPS,FP64 Tensor Core 算力均为 67 TFLOPS;H200 增加的是显存和带宽,而不是 FP64 算力。

我的 CUDA 代码能在 MI355X 上运行吗?

不能直接运行:需要移植到 HIP,或改用 Kokkos、SYCL 或 OpenMP offload 等可移植后端。PyTorch 和 JAX 等框架已有 ROCm 版本,因此请在下单前核实您所用的具体版本。

可以跨多台服务器运行 MPI 吗?

可以。请在部署服务器时,在订单备注中申请在服务器之间配置私有网络。

可以用 Rocky Linux 代替 Ubuntu 吗?

可以,Debian 或 Rocky Linux 镜像可应要求提供。我们的标准镜像是预装 NVIDIA 驱动和 CUDA 的 Ubuntu 22.04 和 24.04,AMD 服务器则使用 ROCm 镜像。

部署 GPU 服务器

本月即可用上您的 GPU 服务器。

选择配置,在同一表单中创建账户,并用余额支付首月费用。承诺交付日期会在您付款前显示,未能按期交付即全额退款。

  • 付款前显示承诺交付日期
  • 任何月份均可取消
  • 加密货币支付,最高加赠 50%

登录 FullGPU

管理您的 GPU 服务器、余额和账单。

首次使用 FullGPU? 创建账户