# 2026年 GPU 短缺：买家面临什么，又该如何确保拿到 GPU

> 2026年 GPU 短缺：按需库存频频售罄，服务商力推一年期合同，GPU 租用价格也在上涨。本文剖析短缺的成因，并介绍团队在这种形势下依然能确保拿到 GPU 的办法。

来源：https://fullgpu.com/zh/blog/gpu-shortage-2026  
更新日期：2026-10-23  
发布方：FullGPU (https://fullgpu.com/)

2026年买家频频遭遇的 GPU 短缺，并不是纸面上缺少 GPU。新一代 GPU 不断推出，从 NVIDIA 的 Blackwell Ultra B300 到 AMD 的 MI355X，一款接一款。真正稀缺的，是您实际租得到的算力：您想要的 GPU 型号、您需要的数量，并且能在一个您可以据此做规划的日期开始使用。本指南将从买家的角度介绍这种短缺的具体表现、它为何会发生，以及依然能帮团队拿到硬件的实用做法。

## 2026年 GPU 短缺：买家会遇到哪些问题

如果您今年尝试过扩充算力，对下面的情形一定不陌生。有四件事反复出现。

- **按需库存经常售罄。**热门配置，尤其是基于新一代 GPU 的 8 卡服务器，在按小时计费的按需页面上常常显示无货。
- **服务商青睐一年期合同。**许多服务商如今更愿意以一年期合同出售算力，按需库存往往只是满足这些承诺之后剩下的部分。
- **配额与审批。**超大规模云服务商通常要求先通过配额审批才能启动 GPU 实例，还会另外收取出站流量费。申请提高配额本身也需要额外的等待时间。
- **价格上涨。**过去一年，H100、H200 和 B200 的按需价格中位数全都上涨了。

FullGPU 于 2026年10月对 38 个公开价格来源的调研，用具体数字印证了最后一点。第三列只是简单的算术：如果价格涨到原来的 1 + x 倍，固定预算能买到的小时数就只有原来的 1 / (1 + x)。

| GPU | 每 GPU 小时按需价格中位数：过去一年的变化 | 一年前定下的预算如今能买到多少 |
| --- | --- | --- |
| H100 | 上涨约 13% | GPU 小时数减少约 11% |
| H200 | 上涨约 27% | GPU 小时数减少约 21% |
| B200 | 上涨约 20% | GPU 小时数减少约 17% |

实际影响是：如果一份计划假设您能在需要的任何时候、以去年的小时费率租到所需的一切，那么如今它在这三点上都过于乐观了。

## GPU 算力为何紧张

原因不止一个，而您也无需依靠市场预测来做规划。以下三个结构性因素可以解释紧张局面为何持续。

### 训练与推理争夺同一批 GPU

训练任务一次就要预留大批 GPU，一用就是数周乃至数月。推理需求则随着每个投入生产环境的模型而增长，而且全天候运行。两者需要的是同样的硬件，而大显存的新一代 GPU 对两者都很有吸引力：凭借 H200 的 141 GB 或 B300 的 288 GB 显存，部署大模型所需的 GPU 更少，训练时所需的分片也更少。

### 新系统交付耗时很长

8 卡 HGX 服务器或机架级系统，都不是货架上随手可取的商品。GPU、高带宽内存、网卡、供电和散热必须全部到位，然后还要完成安装、测试和联网。每一代新产品（Hopper、Blackwell、Blackwell Ultra，以及接下来的 Rubin）都会让这一产能爬坡过程从头开始，而大买家往往在交付之前很久就已订下新系统。

### 电力和数据中心空间有限

NVIDIA 给出的 H100 和 H200 SXM 额定功耗最高为 700 W。据报道，B200 和 B300 的功耗分别约为 1,000 W 和 1,100 W；AMD 给出的 MI355X 额定功耗为 1,400 W，采用液冷。8 张 B200 仅 GPU 本身就约 8 kW，还不算 CPU、内存、网络和散热。这种密度的机架所需的供电和散热能力，是许多老旧机房在建造时就没有考虑的，而扩充这些能力需要时间。

这些因素没有一个能在一个季度内解决。稳妥的规划假设是：在您接下来的几个采购周期里，算力供应都会持续紧张。

## 供应紧张时，各种计费模式表现如何

在供应紧张的市场中，购买 GPU 的方式比在宽松市场中更重要。当需求超过供给时，业内四种常见的计费模式表现截然不同。

| 计费模式 | 运作方式 | 在紧张的市场中 | 最适合 |
| --- | --- | --- | --- |
| 按需，按秒或按小时计费 | 实例运行期间付费；一旦释放，实例就没了 | 热门配置经常售罄；两次运行之间价格可能发生变化 | 有库存时的短期实验 |
| Spot 或可中断实例 | 以折扣价出售的闲置算力，可能在短时间通知后被收回 | 闲置算力顾名思义，正是新增需求最先吞掉的部分 | 频繁保存检查点、可容错的批处理任务 |
| 预留期限，通常为一年或更长 | 在整个期限内承诺使用这部分算力 | 获得大规模算力最可靠的途径，代价是长期锁定 | 规模大、负载稳定且周期明确的工作负载 |
| 按月独享 | 同一台机器每月固定价格，按月续费 | 交付后，只要持续续费，硬件就一直归您使用；首次下单可能需要等待库存 | 需要确定性、又不想做一年期承诺的稳定工作负载 |

如果您只需要用几天 GPU，而且找得到货源，按小时计费仍然更划算。一个月约有 730 小时，因此，如果您本来就要让那张 GPU 在其中大部分时间里运行，按月租用服务器就更合算。我们对[按月与按小时 GPU 计价](https://fullgpu.com/zh/compare/monthly-vs-hourly-gpu-pricing)的对比详细推算了盈亏平衡点。

## 2026年确保拿到 GPU 的七个实用方法

### 1. 按月租用，把硬件留在手中

守住算力比找到算力容易。按月租用的独享服务器，只要您持续续费，就一直归您使用：不会被抢占，不必重新排队，同一张 GPU 上也没有其他租户。FullGPU 采用的正是这种模式：整张物理 GPU，固定价格，按月预付，最短期限一个月，任何月份均可免费取消。

### 2. 在需要之前就申请算力

项目一获批就启动采购，而不是等到数据流水线准备就绪才开始。要求每家服务商书面给出交付日期，并把含糊的“很快”视为否定答复。对于 GB300 NVL72 等机架级系统，要以季度而不是周为单位来规划。

### 3. 在 GPU 型号上保持灵活

把您实际需要的条件写下来：单卡显存、总显存、GPU 之间的带宽以及软件栈。然后列出所有满足这些条件的型号。一个团队如果接受任何至少有 141 GB 显存并支持 NVLink 的 GPU，选择余地就远大于坚持某个特定 SKU 的团队。下一节的表格列出了合理的替代选择。

### 4. 按实际需要确定显存规模

要求过高，只会让短缺对您的影响更严重。权重约占参数量 × 每个参数的字节数：70B 模型在 BF16 精度下约 140 GB，在 FP8 精度下约 70 GB。以 FP8 运行时，这个模型单张 H100 只能勉强装下，单张 H200 则绰绰有余，无需动用两张 GPU。再为 KV 缓存、激活值和运行时留出 10–30% 的余量，然后确定规格。我们的[显存计算器](https://fullgpu.com/zh/tools/vram-calculator)可以替您完成计算，[大语言模型（LLM）需要多少显存](https://fullgpu.com/zh/blog/vram-for-llms)这篇指南则解释了 KV 缓存方面的计算。

### 5. 工作负载稳定时，承诺租用几个月

服务商会围绕客户的承诺来规划算力。与一个月一个月地续租相比，6 个月或 12 个月的租期，或者一次订购多台服务器，更便于服务商排期，也让您在谈判时更有筹码。实验性的工作，则保留按月租用的选项。

### 6. 留意库存信号

优先选择按配置公布库存的服务商。“库存有限”意味着该配置随时可能售罄，今天的“现货”到下周就可能变成“库存有限”。一旦满足您要求的配置显示有货，就立即下单，而不要等待更好的配置。

### 7. 保持技术栈的可移植性

把环境打包进容器，固定驱动、CUDA 或 ROCm 以及框架的版本，并把检查点存放在能快速复制出来的地方。能在不同 GPU 型号之间、甚至在 NVIDIA 和 AMD 之间迁移的技术栈，可以用上最先出现的任何算力。

## 如果首选 GPU 已售罄

替代方案很少是没有代价的：每一种都会改变显存、带宽或软件。下表以我们自己产品目录中的 GPU 为例，逐一说明其中的取舍。

| 工作负载 | 首选 | 替代选择 | 有何变化 |
| --- | --- | --- | --- |
| 70B 级模型，FP8 推理（权重约 70 GB） | H200，141 GB | B200，180 GB；RTX PRO 6000，96 GB；H100，80 GB | B200 价格更高，但显存和带宽也更多；RTX PRO 6000 的带宽为 1.6 TB/s，而 H200 为 4.8 TB/s；H100 留给 KV 缓存的空间很少 |
| 单节点训练或微调 | HGX H200，8 × 141 GB | HGX B200；HGX H100；8× MI355X | H100 单卡 80 GB，因此需要更多分片；MI355X 单卡 288 GB，但运行的是 ROCm 而不是 CUDA |
| 超大模型或混合专家（MoE）模型、长上下文 | HGX B300，8 × 288 GB | 8× MI355X，8 × 288 GB；HGX B200，8 × 180 GB | MI355X 容量相同，但基于 ROCm；B200 总显存为 1,440 GB，而不是 2,304 GB |
| 图像与视频生成 | RTX PRO 6000，96 GB | L40S，48 GB；RTX 5090，32 GB | 单卡显存更少：批次更小，或者模型必须量化或卸载 |

如果您在考虑 AMD 方案，我们关于[在 AMD MI355X 上运行 AI 工作负载](https://fullgpu.com/zh/blog/amd-mi355x-for-ai)的说明介绍了哪些部分容易移植、哪些不容易。

## 如何评估服务商的真实供货能力

落地页上的“可用”，与在确定的日期拿到一台能登录的服务器，是两回事。付款之前，请核实以下几点。

1. **按配置公布的库存。**为每种配置标明库存状态的服务商，给出的是您可以核实的信息。把库存情况藏在销售流程背后的服务商，则什么也没告诉您。
2. **付款前的书面交付日期。**不是聊天窗口里的估计，而是订单确认中写明的日期。
3. **逾期交付可获退款。**正是这一点，让许诺变成了有约束力的承诺。
4. **书面写明的准确配置。**GPU 型号和数量、单卡显存、CPU、内存、存储、网络和所在位置。
5. **整卡还是切片。**问清楚 GPU 是由您独享，还是通过 vGPU、MIG 分区或分时方式共享。
6. **租期与退出。**最短期限、续费条款和取消通知期。

我们销售每一台服务器都是这样做的：我们的[价格页面标明了每种配置的库存状态](https://fullgpu.com/zh/pricing)；配置和价格会在付款前显示在[部署页面](https://fullgpu.com/zh/deploy)上；服务器在付款后 10 分钟内交付；如果已付款的服务器未能在当天交付，根据我们的[退款政策](https://fullgpu.com/zh/legal/refunds)，您可以取消订单，全额退款至账户余额。如果您需要特定的国家或地区，请在订单备注中注明；如果无法满足，您可以在交付前取消订单并获得全额退款。

服务器交付后，请在最初的五分钟内进行核验：

```
# GPU model, count and memory as the driver sees them
nvidia-smi --query-gpu=index,name,memory.total --format=csv

# How the GPUs are connected (NV# means NVLink)
nvidia-smi topo -m
```

## 价格上涨时如何做预算

如果能提前知道价格，涨价就更容易消化。以下三个习惯会有所帮助。

- **按实际使用率，以 GPU·月为单位做预算。**每月 US$16,900 的 8× H100 服务器，如果全天候满载运行，约合每 GPU 小时 US$2.89。使用率为 50% 时，每个实际使用的 GPU 小时的有效成本会翻倍，约为 US$5.79。如果您的使用率很低，又能找到按小时计费的库存，按小时计费可能更便宜。
- **提前为替代型号定好价格上限。**预先确定每款可接受的型号每个 GPU·月您最多愿意付多少钱，这样一有货，几分钟内就能拍板。
- **在可预测的期间内锁定价格。**固定月价在每个已付费月份内都不会变动，您最大的一笔开支也就不再随按小时计费市场的价格波动。如需更长期的安排，拥有运行中服务器的客户可以在控制台提交工单，咨询长期价格。

我们的 [GPU 成本计算器](https://fullgpu.com/zh/tools/gpu-cost-calculator)可以根据您预计的运行小时数，比较按月和按小时计费的总费用。

## 常见问题

### 2026年存在 GPU 短缺吗？

从实际情况看，是的：算力供应紧张，热门 GPU 的按需库存经常售罄，许多服务商更愿意签一年期合同。GPU 仍然租得到，但通常需要一定的等待时间、签订一定的租期，或者换用首选之外的型号。

### GPU 租用价格上涨了多少？

FullGPU 于 2026年10月对 38 个公开价格来源的调研发现，过去一年，每 GPU 小时的按需价格中位数，H100 上涨约 13%，H200 上涨约 27%，B200 上涨约 20%。

### 在短缺期间，拿到 GPU 最快的方法是什么？

在 GPU 型号上保持灵活，精确估算显存以免要求过高，并向公布库存、书面确认交付日期的服务商下单。一旦拿到服务器，续费要比寻找新的算力容易得多。

### 2026年租用 GPU 必须签一年期合同吗？

不一定。许多服务商更青睐一年期合同，但也有按月租用的独享服务器：在 FullGPU，最短期限为一个月，任何月份均可免费取消。

### 为 GPU 算力付款之前，应该核实什么？

要求服务商书面确认准确配置和交付日期，承诺逾期即可全额退款，并确认 GPU 是独享的整卡，而不是共享的切片。硬件一交付，就用 nvidia-smi 进行核验。

## 相关页面

- [如何为 AI 选择 GPU 服务器](https://fullgpu.com/zh/blog/how-to-choose-a-gpu-server): 如何为 AI 选择 GPU 服务器？本文提供一套完整的选型框架，逐项讲解显存、显存带宽、精度、互联、CPU 与存储、软件生态和计费方式，并附一份下单前检查清单。
- [按月与按小时 GPU 计费对比：如何算出您的盈亏平衡点](https://fullgpu.com/zh/compare/monthly-vs-hourly-gpu-pricing): 按月与按小时 GPU 计费对比：给出盈亏平衡公式、一张基于我们实际价格的使用率对照表、按小时账单常会额外增加的各项费用，并说明什么情况下按小时计费更划算。
- [独享 GPU 与共享 GPU：共享会带来哪些变化](https://fullgpu.com/zh/blog/dedicated-vs-shared-gpus): 独享 GPU 与共享 GPU 有何不同？本文逐一解析 vGPU、MIG、时间切片和共享主机如何影响显存、性能稳定性、安全隔离与调试，以及在什么情况下共享也完全合理。
- [GPU 服务器价格：全部 GPU 月租价格一览](https://fullgpu.com/zh/pricing): GPU 服务器租用价格 US$449/月起：独立 GPU 按固定月价租用，含流量、IPv4 和工程师 7×24 小时支持，不收开通费，也不收出站流量费。查看全部配置的价格。