# GPU 指南与工程笔记

> 关于显存、大语言模型推理与微调、GPU 价格和硬件的指南。

来源：https://fullgpu.com/zh/blog  
发布方：FullGPU (https://fullgpu.com/)

## 文章

- [2026年 GPU 短缺：买家面临什么，又该如何确保拿到 GPU](https://fullgpu.com/zh/blog/gpu-shortage-2026): 2026年 GPU 短缺：按需库存频频售罄，服务商力推一年期合同，GPU 租用价格也在上涨。本文剖析短缺的成因，并介绍团队在这种形势下依然能确保拿到 GPU 的办法。
- [2026年 H100 租用成本：您实际要付多少钱](https://fullgpu.com/zh/blog/h100-rental-cost-2026): 2026年 H100 租用成本详解：对比 SXM 与 PCIe 版本、按月与按小时计费，分析出站流量与存储费用，并附盈亏平衡公式，帮您在签约前比较任何一家服务商的报价。
- [2026年大语言模型推理最佳 GPU：按模型规模选型指南](https://fullgpu.com/zh/blog/best-gpu-for-llm-inference): 大语言模型（LLM）推理的最佳 GPU 取决于模型规模、精度、KV 缓存和显存带宽。使用我们的 2026年选型表，在从 RTX 5090 到 8× B300 的各款配置中做出选择。
- [AMD MI355X 用于 AI：规格、ROCm 与适用的工作负载](https://fullgpu.com/zh/blog/amd-mi355x-for-ai): AMD MI355X 用于 AI 详解：每张 GPU 配备 288 GB HBM3e，带宽 8 TB/s，支持 FP8 与 MXFP4；ROCm 的真实现状，以及最能从中受益的工作负载。下单前先读这篇。
- [DeepSeek R1 硬件要求：R1 与 V3 所需的 GPU 和显存](https://fullgpu.com/zh/blog/deepseek-hardware-requirements): DeepSeek R1 硬件要求详解：FP8 权重约需 671 GB 显存，还要留出 KV 缓存空间。了解哪些 8 卡 GPU 服务器能装下 R1 和 V3，以及各个蒸馏模型分别该选哪款 GPU。
- [FP8、FP4 与 BF16：AI 数值格式详解](https://fullgpu.com/zh/blog/fp8-fp4-precision-explained): FP8、FP4 与 BF16 有何区别？本文详解各格式的位布局、NVFP4 与 MXFP4 的块缩放方式、哪些 GPU 原生支持哪种格式、能节省多少显存，以及在准确度上要付出多少代价。
- [NVLink 与 PCIe 对比：带宽、拓扑，以及何时真正重要](https://fullgpu.com/zh/blog/nvlink-vs-pcie): NVLink 与 PCIe 对比：每张 GPU 的带宽、NVSwitch 与 NVL72 机架，哪些多 GPU 工作负载离不开 NVLink、哪些在 PCIe 上就能良好运行，并附具体的计算示例。
- [大语言模型需要多少显存？](https://fullgpu.com/zh/blog/vram-for-llms): LLM 需要多少显存？快速解答 7B、14B、32B、70B 和 405B 模型在 BF16、FP8 和 4 位精度下的显存需求，另附按上下文长度计算的 KV 缓存，以及装得下模型的 GPU。
- [如何为 AI 选择 GPU 服务器](https://fullgpu.com/zh/blog/how-to-choose-a-gpu-server): 如何为 AI 选择 GPU 服务器？本文提供一套完整的选型框架，逐项讲解显存、显存带宽、精度、互联、CPU 与存储、软件生态和计费方式，并附一份下单前检查清单。
- [如何使用 vLLM 自托管 LLM 推理](https://fullgpu.com/zh/blog/self-host-llm-inference-vllm): 使用 vLLM 自托管 LLM 推理：本文介绍如何估算所需的 GPU，运行兼容 OpenAI API 的推理服务器，调优 FP8、前缀缓存和并行策略，并为生产环境做好安全加固。
- [如何微调 70B 模型：GPU 要求与工作流程](https://fullgpu.com/zh/blog/fine-tune-70b-model): 微调 70B 模型需要几张 GPU？QLoRA 用单张 80 GB GPU 即可，BF16 LoRA 约需两张，全参数微调则需要 1 TB 以上显存（8× H200 级别）。文中附显存计算方法与环境配置步骤。
- [独享 GPU 与共享 GPU：共享会带来哪些变化](https://fullgpu.com/zh/blog/dedicated-vs-shared-gpus): 独享 GPU 与共享 GPU 有何不同？本文逐一解析 vGPU、MIG、时间切片和共享主机如何影响显存、性能稳定性、安全隔离与调试，以及在什么情况下共享也完全合理。