GPU 云服务替代方案

如何在各家 GPU 云之间做出选择

大多数 GPU 云替代方案之间的区别，与其说在于列出的 GPU 型号，不如说在于计费方式、您实际得到的硬件，以及开始使用需要满足的条件。用下面五个问题，就能很快把它们区分开：

1. GPU 每月要运行多少小时？按秒和按小时计费适合短时或不规律的任务；固定月价适合一个月大部分时间都在运行的工作。GPU 成本计算器可以根据您的用量算出盈亏平衡点。
2. 您是否每天都需要同一台机器？算力市场和可中断容量以可预测性换取灵活性。独立服务器在您租用期间始终保留同一套硬件、同一个 IP 地址和同一份本地数据。
3. GPU 是整卡还是共享？有些产品会用 vGPU 或 MIG 切分 GPU。请确认您据以选型的显存和算力全部归您所有。
4. 数据传输要花多少钱？对于推理服务和数据流水线，出站流量费可能占账单的很大一部分。请确认哪些已包含在内，哪些按 GB 计费。
5. 如何开通和付款？有些云需要销售审批、配额或银行卡；另一些则是自助式的。如果您想用加密货币支付，请确认哪些服务商接受，以及以什么方式接受。

FullGPU 适合什么情况，不适合什么情况

FullGPU 以固定月价出租独享的整张 GPU，价格含流量、IPv4 地址和工程师 7×24 小时支持，费用从您用加密货币充值的余额中支付。它适合推理端点、持续数周的训练和微调，以及一个月大部分时间都在运行的团队共用机器。

如果您每周只需要几个小时的算力，或者需要无服务器自动扩缩容、可中断的 Spot 容量或托管 Kubernetes 平台，FullGPU 就不适合：这些我们都不提供。如果您现在的服务商按秒计费，而您的 GPU 一个月大部分时间都处于闲置状态，留在原服务商很可能更便宜。上方的每个对比页面都说明了在什么情况下另一家服务商是更好的选择。

将工作负载迁移到独立服务器

迁移通常很快：服务器运行预装 NVIDIA 驱动、CUDA、Docker 和 NVIDIA Container Toolkit 的 Ubuntu，AMD 服务器则使用 ROCm，因此同样的容器无需修改即可启动。通过 SSH 或 rsync 复制数据集和检查点，把推理端点指向新的 IP 地址，并保留原服务商，直到第一周运行无误。GPU 服务器快速入门介绍了首次登录，交付后我们的工程师还会协助您迁移数据。