# A100 vs H100: что изменилось и почему мы сдаём в аренду H100 > A100 vs H100: поддержка FP8, 3,35 против 2,0 ТБ/с и NVLink 4 при тех же 80 ГБ. Мы сдаём в аренду H100, а не A100. Что изменилось и кто всё ещё использует A100. Источник: https://fullgpu.com/ru/compare/a100-vs-h100 Обновлено: 2026-10-22 Издатель: FullGPU (https://fullgpu.com/) **Коротко:** При тех же 80 ГБ у H100 есть FP8, пропускная способность памяти на 64% выше, примерно в 3,2 раза большая заявленная производителем вычислительная мощность в BF16 без разреженности и более быстрый NVLink, поэтому в 2026 году арендовать стоит именно его, а A100 оправданы в основном там, где они у вас уже есть. ## Характеристики A100 и H100 | Характеристика | NVIDIA A100 SXM 80 GB | NVIDIA H100 SXM | | --- | --- | --- | | Архитектура | Ampere | Hopper | | Видеопамять | 80 ГБ HBM2e | 80 ГБ HBM3 | | Пропускная способность памяти | 2,04 ТБ/с | 3,35 ТБ/с | | FP4 | — | — | | FP8 | — | 1 979 TFLOPS | | BF16 / FP16 | 312 TFLOPS | 989 TFLOPS | | Интерконнект GPU | NVLink 3 · 600 ГБ/с | NVLink 4 · 900 ГБ/с | | Форм-фактор | Модуль SXM4 | Модуль SXM5 · HGX H100 | | Макс. энергопотребление | 400 Вт | 700 Вт | ## Помесячные цены в FullGPU | Конфигурация | Тип | Видеопамять | Процессор | ОЗУ | Накопители | Сеть | Цена в месяц (USD) | За GPU-час | Наличие | | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | | [NVIDIA H100 SXM](https://fullgpu.com/ru/gpus/nvidia-h100) | Один GPU | 80 ГБ HBM3 | 24 vCPU | 225 ГБ | 2 ТБ NVMe | 25 Гбит/с | 2 190 $ | 3,00 $ | В наличии, выдача менее чем за 10 минут после оплаты | | [8× NVIDIA HGX H100](https://fullgpu.com/ru/gpus/nvidia-h100) | 8-GPU-сервер | 8 × 80 ГБ HBM3 | 2× Xeon 8480+ · 112 ядер | 2 ТБ DDR5 | 8× 3,84 ТБ NVMe | 8× 400G ConnectX-7 | 16 900 $ | 2,89 $ | В наличии, выдача менее чем за 10 минут после оплаты | За GPU-час = цена в месяц ÷ число GPU ÷ 730 часов. Это значение приводится только для сравнения с почасовыми предложениями: каждый тариф оплачивается по фиксированной цене в месяц. ## Выбирайте A100, если… - Вы уже владеете A100 или арендуете их по контракту, и ваши задачи хорошо на них работают. - Ваши результаты проверены на Ampere, и их нужно воспроизводить на идентичном оборудовании. - Ваши модели небольшие, и A100 уже справляется с работой в нужные вам сроки. ## Выбирайте H100, если… - Вам нужен FP8 — например, чтобы уместить модель 70B примерно в 70 ГБ на одном GPU. - Ваш инференс упирается в пропускную способность памяти, и для вас важна разница между 3,35 и 2,0 ТБ/с. - Вы обучаете модели на нескольких GPU, и вам нужен NVLink 4 со скоростью 900 ГБ/с на каждый GPU. - Вы хотите арендовать GPU у FullGPU, где есть H100, но нет A100. ## Обзор **A100 и H100** часто сравнивают, потому что у обоих GPU по 80 ГБ памяти и на бумаге они выглядят взаимозаменяемыми. Это не так. Сразу уточним: FullGPU не сдаёт в аренду A100. Мы предлагаем H100 — как отдельный GPU или в составе 8-GPU-сервера HGX, — а также более новые GPU поколений Hopper и Blackwell. На этой странице объясняется, что изменилось при переходе от Ampere к Hopper, чтобы вы могли оценить, остаётся ли A100, который у вас уже есть или который можно получить в другом месте, подходящим инструментом для вашей работы. ## A100 или H100: краткий ответ У H100 те же 80 ГБ, но почти во всём остальном он лучше: поддержка FP8, пропускная способность памяти на 64% выше (3,35 ТБ/с против примерно 2,0 ТБ/с), примерно в 3,2 раза более высокая заявленная NVIDIA производительность в BF16 без разреженности (989 против 312 TFLOPS) и NVLink 4 со скоростью 900 ГБ/с на каждый GPU против 600 ГБ/с. A100 по-прежнему имеет смысл там, где он у вас уже есть, а ваши задачи укладываются в его ограничения. Если же вы берёте GPU в аренду заново в 2026 году, мы предлагаем и рекомендуем [H100](https://fullgpu.com/ru/gpus/nvidia-h100). ## FP8: главное различие на практике A100 (Ampere) не поддерживает FP8. Самый быстрый формат с плавающей запятой для обучения у него — BF16 или FP16: 312 TFLOPS без разреженности по данным NVIDIA. В H100 (Hopper) появились тензорные ядра FP8 и Transformer Engine, и NVIDIA указывает для него 1 979 TFLOPS в FP8 без разреженности. FP8 помогает дважды. Во-первых, по сравнению с BF16 он вдвое сокращает память под веса: модели 70B нужно уже не около 140 ГБ, а около 70 ГБ, и она помещается — впритык — на один H100 с 80 ГБ. Во-вторых, сами вычисления выполняются в FP8 на тензорных ядрах. На A100 той же модели нужно квантование в INT8 или 4-битное квантование только весов либо два GPU. Чекпоинты в FP8 для открытых моделей теперь обычное дело, и Hopper запускает их нативно. Форматы и связанные с ними компромиссы по качеству описаны в нашем [разборе форматов FP8 и FP4](https://fullgpu.com/ru/blog/fp8-fp4-precision-explained). Объём памяти одинаковый, а возможности разные. Примерный объём весов моделей распространённых размеров: | Модель и точность | Веса (примерно) | A100, 80 ГБ | H100, 80 ГБ | | --- | --- | --- | --- | | 8B в BF16 | 16 ГБ | Да | Да | | 32B в BF16 | 64 ГБ | Впритык | Впритык | | 32B в 8-битном формате | 32 ГБ | INT8 или форматы с квантованием только весов | Нативный FP8 | | 70B в 8-битном формате | 70 ГБ | INT8, впритык | Нативный FP8, впритык | | 70B в 4-битном формате | 35 ГБ | 4-битное квантование только весов | 4-битное квантование только весов | ## Пропускная способность памяти и инференс У обеих карт по 80 ГБ, но в H100 используется HBM3 со скоростью 3,35 ТБ/с, а в A100 с 80 ГБ — HBM2e со скоростью около 2,0 ТБ/с. Когда модель генерирует текст, для каждого нового токена нужно считать из памяти веса и KV-кэш, поэтому при малых и средних размерах батча скорость декодирования (decode) зависит больше от пропускной способности, чем от вычислительной мощности. Пропускная способность у H100 на 64% выше, поэтому на каждом шаге он считывает ту же модель быстрее: каждый токен приходится ждать меньше, а один GPU обслуживает больше пользователей. Отсюда простой способ оценить выгоду, если вы можете арендовать время на A100 в другом месте. При инференсе, упирающемся в пропускную способность, A100 выгоднее, только если его час стоит меньше примерно 60% от часа H100 (2,0 ÷ 3,35). При обучении в BF16, упирающемся в вычислительную мощность, планка опускается примерно до трети (312 ÷ 989), а если ваша задача на H100 может использовать FP8, то и ещё ниже. Реальные задачи редко масштабируются точно в соответствии с соотношениями из данных производителя, поэтому считайте эти пороги лишь грубым ориентиром и проводите замеры на своей нагрузке. Кроме того, в Hopper появились возможности, на которые опираются авторы ядер (kernels): Tensor Memory Accelerator для асинхронного перемещения данных, кластеры блоков потоков (thread block clusters) и инструкции DPX для алгоритмов динамического программирования, например для выравнивания последовательностей. Ядра механизма внимания, оптимизированные под Hopper, такие как FlashAttention-3, используют эти возможности и на A100 не работают. ## NVLink и масштабирование на несколько GPU В 8-GPU-системах HGX у A100 используется NVLink третьего поколения со скоростью 600 ГБ/с на каждый GPU, а у H100 — NVLink четвёртого поколения со скоростью 900 ГБ/с. При инференсе с тензорным параллелизмом и обучении с шардированием состояния оптимизатора GPU постоянно обмениваются данными, поэтому, когда пропускная способность каналов на 50% выше, на вычисления остаётся большая часть каждого шага. В наших [8-GPU-серверах с H100](https://fullgpu.com/ru/products/8-gpu-servers) к восьми H100 добавлены два процессора Xeon 8480+ (112 ядер), 2 ТБ DDR5, восемь NVMe-накопителей по 3,84 ТБ и восемь сетевых адаптеров ConnectX-7 400G, а стоит такой сервер 16 900 $ в месяц. На одном 8-GPU-сервере потолок для полного дообучения (fine-tuning) задаёт память. Adam требует примерно 16–20 байт на параметр без учёта активаций, поэтому в 640 ГБ видеопамяти (VRAM) помещается полное дообучение модели размером около 30B — что на A100, что на H100. Просто сервер с H100 проходит каждый шаг быстрее: у него больше вычислительной мощности и быстрее каналы. Для инференса в тех же 640 ГБ помещается модель 405B в 8-битном формате — около 405 ГБ весов: на H100 нативно в FP8, на A100 через INT8. ## Кому A100 всё ещё может подойти A100 остаётся производительным GPU, и есть вполне обоснованные причины продолжать им пользоваться: - **A100 у вас уже есть — свои или по контракту.** Уже оплаченное оборудование недорого продолжать использовать для задач, которые ему по силам. - **Воспроизводимость.** Результаты, проверенные на Ampere для научных статей или регулируемых пайплайнов, может потребоваться воспроизводить на идентичном оборудовании. - **Небольшие нетребовательные задачи.** Классическому компьютерному зрению, небольшим языковым моделям или пакетным задачам, которые и так укладываются в сроки, Hopper не нужен. - **Ограничения по питанию.** При 400 Вт против 700 Вт на GPU A100 подходит площадкам с жёстким бюджетом энергопотребления, хотя, по данным NVIDIA, H100 выполняет на каждый ватт примерно в 1,8 раза больше работы в BF16 без разреженности. - **Короткие эпизодические задачи.** Если GPU нужен вам на несколько часов в месяц, почасовая аренда в другом месте, будь то A100 или другой GPU, может обойтись дешевле любого сервера с помесячной оплатой; точку безубыточности показывает наше [сравнение помесячной и почасовой оплаты](https://fullgpu.com/ru/compare/monthly-vs-hourly-gpu-pricing). Для новой помесячной аренды эти причины редко перевешивают FP8 и выигрыш в пропускной способности. Если 80 ГБ мало, наше [сравнение H100 и H200](https://fullgpu.com/ru/compare/h100-vs-h200) показывает, что дают 141 ГБ; если ваши модели небольшие, в [сравнении L40S и H100](https://fullgpu.com/ru/compare/l40s-vs-h100) разобран более дешёвый вариант за 890 $ в месяц. ## Стоимость H100 и переход с A100 Один H100 в FullGPU стоит 2 190 $ в месяц — около 3,00 $ за GPU-час при месяце в 730 часов — и включает 24 vCPU, 225 ГБ оперативной памяти, 2 ТБ NVMe и порт 25 Гбит/с. 8-GPU-сервер HGX H100 стоит 16 900 $, около 2,89 $ за GPU-час. Переход с A100 на H100 редко требует изменений в коде, поскольку CUDA, PyTorch и основные движки инференса поддерживают оба GPU, но короткий чек-лист не помешает: - Используйте сборку своего фреймворка для CUDA 12. У H100 compute capability 9.0, у A100 — 8.0. - Пересоберите собственные расширения CUDA под compute capability 9.0, если они были скомпилированы только для Ampere. - Попробуйте веса и KV-кэш в FP8 в своём движке инференса и, прежде чем переключаться, сравните ответы модели на своём наборе данных для оценки. - Заново подберите размеры батчей: при большей пропускной способности и вычислительной мощности оптимальные значения обычно меняются. О настройке на наших образах, в которых уже установлены драйверы NVIDIA, CUDA, Docker и NVIDIA Container Toolkit, рассказывает наше [руководство по PyTorch и vLLM](https://fullgpu.com/ru/docs/pytorch-vllm). ## Часто задаваемые вопросы ### Сдаёт ли FullGPU в аренду A100? Нет. Мы сдаём в аренду H100, H200, B200, B300 и другие актуальные GPU, но не A100. Если вы переходите с A100, ближайший шаг вперёд — H100 с теми же 80 ГБ памяти. ### Стоит ли выбирать H100 вместо A100? Для новых задач — да. При тех же 80 ГБ у него есть FP8, пропускная способность памяти на 64% выше, примерно в 3,2 раза более высокая заявленная NVIDIA производительность в BF16 без разреженности и более быстрый NVLink. ### Может ли A100 запускать модели в FP8? Нативно — нет, потому что у Ampere нет тензорных ядер FP8. Можно преобразовать модель в INT8 или в 4-битный формат с квантованием только весов либо запустить её в BF16 на большем числе GPU. ### Одинаковая ли память у A100 и H100? В сравниваемых здесь версиях SXM у обоих по 80 ГБ, но у H100 это HBM3 со скоростью 3,35 ТБ/с, а у A100 — HBM2e со скоростью около 2,0 ТБ/с. Объём одинаковый, а скорость, с которой эту память можно читать, — нет. ### Будет ли мой код для A100 работать на H100? В большинстве случаев да, если использовать актуальную версию CUDA и сборку фреймворка. В наших образах Ubuntu уже установлены драйверы NVIDIA, CUDA, Docker и NVIDIA Container Toolkit. ## Связанные страницы - [Аренда серверов NVIDIA H100 SXM от 2 190 $ в месяц](https://fullgpu.com/ru/gpus/nvidia-h100): Аренда выделенного NVIDIA H100 SXM за 2 190 $/мес. (≈ 3,00 $ за GPU-час 24/7) или 8-GPU HGX H100 за 16 900 $. Фиксированная цена, выдача менее чем за 10 минут. - [H100 vs H200: одинаковая вычислительная мощность Hopper, очень разная память](https://fullgpu.com/ru/compare/h100-vs-h200): H100 vs H200: та же вычислительная мощность Hopper, 80 ГБ и 3,35 ТБ/с против 141 ГБ и 4,8 ТБ/с. Что помещается на один GPU, расчёт KV-кэша и цена в месяц. - [L40S vs H100: какой GPU подходит для вашей задачи и бюджета?](https://fullgpu.com/ru/compare/l40s-vs-h100): Сравнение L40S и H100: 48 ГБ GDDR6 и 864 ГБ/с за 890 $/мес. против 80 ГБ HBM3 и 3,35 ТБ/с за 2 190 $. Какие модели помещаются и для чего лучше каждый GPU. - [H100 vs B200: стоит ли всё ещё арендовать H100 в 2026 году?](https://fullgpu.com/ru/compare/h100-vs-b200): H100 vs B200: 80 против 180 ГБ, 3,35 против 8 ТБ/с, FP4 и NVLink 5 по цене 2 190 $ против 4 590 $/мес. Стоимость задачи и когда H100 — всё ещё разумный выбор. - [Калькулятор видеопамяти для LLM: поместится ли ваша модель на GPU?](https://fullgpu.com/ru/tools/vram-calculator): Бесплатный калькулятор видеопамяти для LLM: выберите Llama, Qwen, Mistral или gpt-oss, точность и длину контекста и посмотрите веса, KV-кэш и подходящие GPU. - [GPU-серверы для научных вычислений и HPC с фиксированным бюджетом](https://fullgpu.com/ru/solutions/research-hpc): GPU для научных вычислений и HPC: H100, H200 и MI355X с данными производителей по FP64, CUDA или ROCm, фиксированный бюджет на месяц. Подберите GPU под код.