2026年 GPU 短缺：买家面临什么，又该如何确保拿到 GPU

2026年买家频频遭遇的 GPU 短缺，并不是纸面上缺少 GPU。新一代 GPU 不断推出，从 NVIDIA 的 Blackwell Ultra B300 到 AMD 的 MI355X，一款接一款。真正稀缺的，是您实际租得到的算力：您想要的 GPU 型号、您需要的数量，并且能在一个您可以据此做规划的日期开始使用。本指南将从买家的角度介绍这种短缺的具体表现、它为何会发生，以及依然能帮团队拿到硬件的实用做法。

2026年 GPU 短缺：买家会遇到哪些问题

如果您今年尝试过扩充算力，对下面的情形一定不陌生。有四件事反复出现。

• 按需库存经常售罄。热门配置，尤其是基于新一代 GPU 的 8 卡服务器，在按小时计费的按需页面上常常显示无货。
• 服务商青睐一年期合同。许多服务商如今更愿意以一年期合同出售算力，按需库存往往只是满足这些承诺之后剩下的部分。
• 配额与审批。超大规模云服务商通常要求先通过配额审批才能启动 GPU 实例，还会另外收取出站流量费。申请提高配额本身也需要额外的等待时间。
• 价格上涨。过去一年，H100、H200 和 B200 的按需价格中位数全都上涨了。

FullGPU 于 2026年10月对 38 个公开价格来源的调研，用具体数字印证了最后一点。第三列只是简单的算术：如果价格涨到原来的 1 + x 倍，固定预算能买到的小时数就只有原来的 1 / (1 + x)。

实际影响是：如果一份计划假设您能在需要的任何时候、以去年的小时费率租到所需的一切，那么如今它在这三点上都过于乐观了。

GPU 算力为何紧张

原因不止一个，而您也无需依靠市场预测来做规划。以下三个结构性因素可以解释紧张局面为何持续。

训练与推理争夺同一批 GPU

训练任务一次就要预留大批 GPU，一用就是数周乃至数月。推理需求则随着每个投入生产环境的模型而增长，而且全天候运行。两者需要的是同样的硬件，而大显存的新一代 GPU 对两者都很有吸引力：凭借 H200 的 141 GB 或 B300 的 288 GB 显存，部署大模型所需的 GPU 更少，训练时所需的分片也更少。

新系统交付耗时很长

8 卡 HGX 服务器或机架级系统，都不是货架上随手可取的商品。GPU、高带宽内存、网卡、供电和散热必须全部到位，然后还要完成安装、测试和联网。每一代新产品（Hopper、Blackwell、Blackwell Ultra，以及接下来的 Rubin）都会让这一产能爬坡过程从头开始，而大买家往往在交付之前很久就已订下新系统。

电力和数据中心空间有限

NVIDIA 给出的 H100 和 H200 SXM 额定功耗最高为 700 W。据报道，B200 和 B300 的功耗分别约为 1,000 W 和 1,100 W；AMD 给出的 MI355X 额定功耗为 1,400 W，采用液冷。8 张 B200 仅 GPU 本身就约 8 kW，还不算 CPU、内存、网络和散热。这种密度的机架所需的供电和散热能力，是许多老旧机房在建造时就没有考虑的，而扩充这些能力需要时间。

这些因素没有一个能在一个季度内解决。稳妥的规划假设是：在您接下来的几个采购周期里，算力供应都会持续紧张。

供应紧张时，各种计费模式表现如何

在供应紧张的市场中，购买 GPU 的方式比在宽松市场中更重要。当需求超过供给时，业内四种常见的计费模式表现截然不同。

如果您只需要用几天 GPU，而且找得到货源，按小时计费仍然更划算。一个月约有 730 小时，因此，如果您本来就要让那张 GPU 在其中大部分时间里运行，按月租用服务器就更合算。我们对按月与按小时 GPU 计价的对比详细推算了盈亏平衡点。

2026年确保拿到 GPU 的七个实用方法

1. 按月租用，把硬件留在手中

守住算力比找到算力容易。按月租用的独享服务器，只要您持续续费，就一直归您使用：不会被抢占，不必重新排队，同一张 GPU 上也没有其他租户。FullGPU 采用的正是这种模式：整张物理 GPU，固定价格，按月预付，最短期限一个月，任何月份均可免费取消。

2. 在需要之前就申请算力

项目一获批就启动采购，而不是等到数据流水线准备就绪才开始。要求每家服务商书面给出交付日期，并把含糊的“很快”视为否定答复。对于 GB300 NVL72 等机架级系统，要以季度而不是周为单位来规划。

3. 在 GPU 型号上保持灵活

把您实际需要的条件写下来：单卡显存、总显存、GPU 之间的带宽以及软件栈。然后列出所有满足这些条件的型号。一个团队如果接受任何至少有 141 GB 显存并支持 NVLink 的 GPU，选择余地就远大于坚持某个特定 SKU 的团队。下一节的表格列出了合理的替代选择。

4. 按实际需要确定显存规模

要求过高，只会让短缺对您的影响更严重。权重约占参数量 × 每个参数的字节数：70B 模型在 BF16 精度下约 140 GB，在 FP8 精度下约 70 GB。以 FP8 运行时，这个模型单张 H100 只能勉强装下，单张 H200 则绰绰有余，无需动用两张 GPU。再为 KV 缓存、激活值和运行时留出 10–30% 的余量，然后确定规格。我们的显存计算器可以替您完成计算，大语言模型（LLM）需要多少显存这篇指南则解释了 KV 缓存方面的计算。

5. 工作负载稳定时，承诺租用几个月

服务商会围绕客户的承诺来规划算力。与一个月一个月地续租相比，6 个月或 12 个月的租期，或者一次订购多台服务器，更便于服务商排期，也让您在谈判时更有筹码。实验性的工作，则保留按月租用的选项。

6. 留意库存信号

优先选择按配置公布库存的服务商。“库存有限”意味着该配置随时可能售罄，今天的“现货”到下周就可能变成“库存有限”。一旦满足您要求的配置显示有货，就立即下单，而不要等待更好的配置。

7. 保持技术栈的可移植性

把环境打包进容器，固定驱动、CUDA 或 ROCm 以及框架的版本，并把检查点存放在能快速复制出来的地方。能在不同 GPU 型号之间、甚至在 NVIDIA 和 AMD 之间迁移的技术栈，可以用上最先出现的任何算力。

如果首选 GPU 已售罄

替代方案很少是没有代价的：每一种都会改变显存、带宽或软件。下表以我们自己产品目录中的 GPU 为例，逐一说明其中的取舍。

如果您在考虑 AMD 方案，我们关于在 AMD MI355X 上运行 AI 工作负载的说明介绍了哪些部分容易移植、哪些不容易。

如何评估服务商的真实供货能力

落地页上的“可用”，与在确定的日期拿到一台能登录的服务器，是两回事。付款之前，请核实以下几点。

1. 按配置公布的库存。为每种配置标明库存状态的服务商，给出的是您可以核实的信息。把库存情况藏在销售流程背后的服务商，则什么也没告诉您。
2. 付款前的书面交付日期。不是聊天窗口里的估计，而是订单确认中写明的日期。
3. 逾期交付可获退款。正是这一点，让许诺变成了有约束力的承诺。
4. 书面写明的准确配置。GPU 型号和数量、单卡显存、CPU、内存、存储、网络和所在位置。
5. 整卡还是切片。问清楚 GPU 是由您独享，还是通过 vGPU、MIG 分区或分时方式共享。
6. 租期与退出。最短期限、续费条款和取消通知期。

我们销售每一台服务器都是这样做的：我们的价格页面标明了每种配置的库存状态；配置、价格和承诺交付日期会在付款前显示在部署页面上；如果我们未能按期交付，根据我们的退款政策，您可以取消订单，全额退款至账户余额。如果您需要特定的国家或地区，请在订单备注中注明；如果无法满足，您可以在交付前取消订单并获得全额退款。

服务器交付后，请在最初的五分钟内进行核验：

# GPU model, count and memory as the driver sees them
nvidia-smi --query-gpu=index,name,memory.total --format=csv

# How the GPUs are connected (NV# means NVLink)
nvidia-smi topo -m

价格上涨时如何做预算

如果能提前知道价格，涨价就更容易消化。以下三个习惯会有所帮助。

• 按实际使用率，以 GPU·月为单位做预算。每月 US$16,900 的 8× H100 服务器，如果全天候满载运行，约合每 GPU 小时 US$2.89。使用率为 50% 时，每个实际使用的 GPU 小时的有效成本会翻倍，约为 US$5.79。如果您的使用率很低，又能找到按小时计费的库存，按小时计费可能更便宜。
• 提前为替代型号定好价格上限。预先确定每款可接受的型号每个 GPU·月您最多愿意付多少钱，这样一有货，几分钟内就能拍板。
• 在可预测的期间内锁定价格。固定月价在每个已付费月份内都不会变动，您最大的一笔开支也就不再随按小时计费市场的价格波动。如需更长期的安排，拥有运行中服务器的客户可以在控制台提交工单，咨询长期价格。

我们的 GPU 成本计算器可以根据您预计的运行小时数，比较按月和按小时计费的总费用。

常见问题

2026年存在 GPU 短缺吗？

从实际情况看，是的：算力供应紧张，热门 GPU 的按需库存经常售罄，许多服务商更愿意签一年期合同。GPU 仍然租得到，但通常需要一定的等待时间、签订一定的租期，或者换用首选之外的型号。

GPU 租用价格上涨了多少？

FullGPU 于 2026年10月对 38 个公开价格来源的调研发现，过去一年，每 GPU 小时的按需价格中位数，H100 上涨约 13%，H200 上涨约 27%，B200 上涨约 20%。

在短缺期间，拿到 GPU 最快的方法是什么？

在 GPU 型号上保持灵活，精确估算显存以免要求过高，并向公布库存、书面确认交付日期的服务商下单。一旦拿到服务器，续费要比寻找新的算力容易得多。

2026年租用 GPU 必须签一年期合同吗？

不一定。许多服务商更青睐一年期合同，但也有按月租用的独享服务器：在 FullGPU，最短期限为一个月，任何月份均可免费取消。

为 GPU 算力付款之前，应该核实什么？

要求服务商书面确认准确配置和交付日期，承诺逾期即可全额退款，并确认 GPU 是独享的整卡，而不是共享的切片。硬件一交付，就用 nvidia-smi 进行核验。