GPU 服务器带宽与出站流量费

FullGPU 的 GPU 服务器带宽与出站流量费规则如下：每台服务器都包含出站流量，在该额度内不收取出站流量费。在合理使用前提下，单卡套餐每月含 20 TB，8 卡服务器每月含 50 TB。入站流量不计入。

每台服务器包含的流量

流量额度随每台服务器提供，已包含在我们价格页面上的每个价格中。在额度内，您完全不需要支付出站流量费。超大规模云服务商通常对出站流量单独计费；如果您习惯了这种模式，请参阅 FullGPU 与 AWS 的对比。

哪些流量计入额度

• 计入：从您的服务器发出的出站流量，例如推理端点返回的响应、发送给您用户的图片或视频，以及您从服务器上复制出去的检查点或结果。
• 不计入：入站流量，例如下载数据集和模型权重、拉取容器镜像，或向服务器上传数据。

几个粗略的数字有助于理解。BF16 精度的 70B 参数模型约 140 GB，下载它属于入站流量，因此不计入。把同样大小的检查点从服务器复制出去十次，约为 1.4 TB，远低于 20 TB。语言模型的文本响应通常每条只有几 KB，而图像和视频类工作负载用的流量要多得多。

合理使用与超出额度

流量额度遵循合理使用原则。如果您的出站流量持续超出额度，我们会在作出任何变更之前联系您，与您商定合适的方案。在这次沟通之前，一切都不会改变。

如果您预计从第一天起就会产生大量出站流量，例如视频分发或导出大型数据集，请在部署服务器时，在订单备注中加以说明，以便我们共同规划。

监测您的流量

您可以直接在服务器上统计出站流量。在 Ubuntu 上安装 vnStat 后，它会按网络接口记录每日和每月的流量总量：

sudo apt install vnstat
vnstat -m

我们的网络与防火墙指南介绍了防火墙和网络接口的设置。流量承诺本身载于我们服务等级协议的第 6 节。