# MI355X vs H200: вдвое больше памяти или проверенный стек?

> Сравнение MI355X и H200: вдвое больше памяти на GPU и нативный FP4 против зрелого стека Hopper и CUDA. Что помещается в память, интерконнект и цена в месяц.

Источник: https://fullgpu.com/ru/compare/mi355x-vs-h200  
Обновлено: 2026-10-22  
Издатель: FullGPU (https://fullgpu.com/)

**Коротко:** Если ваше ПО работает на ROCm, сервер MI355X даёт вдвое больше памяти и более новые форматы точности, а стоит на 4 000 $ в месяц меньше, чем HGX H200; для стеков, работающих только на CUDA, или для одного GPU выбирайте H200.

## Характеристики MI355X и H200

| Характеристика | AMD Instinct MI355X | NVIDIA H200 |
| --- | --- | --- |
| Архитектура | CDNA 4 | Hopper |
| Видеопамять | 288 ГБ HBM3e | 141 ГБ HBM3e |
| Пропускная способность памяти | 8 ТБ/с | 4,8 ТБ/с |
| FP4 | 10 100 TFLOPS | — |
| FP8 | 5 000 TFLOPS | 1 979 TFLOPS |
| BF16 / FP16 | 2 500 TFLOPS | 989 TFLOPS |
| Интерконнект GPU | Infinity Fabric | NVLink 4 · 900 ГБ/с |
| Форм-фактор | Модуль OAM · с жидкостным охлаждением | Модуль SXM · HGX H200 |
| Макс. энергопотребление | 1 400 Вт | 700 Вт |

## Помесячные цены в FullGPU

| Конфигурация | Тип | Видеопамять | Процессор | ОЗУ | Накопители | Сеть | Цена в месяц (USD) | За GPU-час | Наличие |
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- |
| [8× AMD Instinct MI355X](https://fullgpu.com/ru/gpus/amd-mi355x) | 8-GPU-сервер | 8 × 288 ГБ HBM3e | 2× EPYC 9575F · 128 ядер | 3 ТБ DDR5 | 8× 3,84 ТБ NVMe | 8× 400G RoCE | 19 900 $ | 3,41 $ | Мало в наличии, выдача за 7 рабочих дней после оплаты |
| [NVIDIA H200](https://fullgpu.com/ru/gpus/nvidia-h200) | Один GPU | 141 ГБ HBM3e | 24 vCPU | 240 ГБ | 2 ТБ NVMe | 25 Гбит/с | 3 090 $ | 4,23 $ | В наличии, выдача за 1 рабочий день после оплаты |
| [8× NVIDIA HGX H200](https://fullgpu.com/ru/gpus/nvidia-h200) | 8-GPU-сервер | 8 × 141 ГБ HBM3e | 2× Xeon 8480+ · 112 ядер | 2 ТБ DDR5 | 8× 3,84 ТБ NVMe | 8× 400G ConnectX-7 | 23 900 $ | 4,09 $ | В наличии, выдача за 3 рабочих дня после оплаты |

За GPU-час = цена в месяц ÷ число GPU ÷ 730 часов. Это значение приводится только для сравнения с почасовыми предложениями: каждый тариф оплачивается по фиксированной цене в месяц.

## Выбирайте MI355X, если…

- Одному экземпляру модели нужно больше 141 ГБ на GPU.
- Вам нужно 2 304 ГБ HBM3e в одном сервере за 19 900 $ в месяц.
- Вы хотите обслуживать модели в FP4 или FP6 с нативными вычислениями пониженной точности.
- Ваш стек работает на PyTorch или vLLM — оба поддерживают ROCm.

## Выбирайте H200, если…

- Вам достаточно одного GPU: один H200 стоит 3 090 $ в месяц.
- Ваш код зависит от библиотек только для CUDA или собственных ядер CUDA.
- Ваши рецепты обучения и инференса настроены под Hopper, и вы не хотите заниматься портированием.

## Обзор

Выбор между MI355X и H200 — это компромисс между возможностями оборудования и привычкой. У AMD Instinct MI355X 288 ГБ HBM3e на GPU — примерно вдвое больше, чем 141 ГБ у H200, — пропускная способность памяти 8 ТБ/с против 4,8 ТБ/с и аппаратная поддержка FP6 и FP4. NVIDIA H200 сохраняет архитектуру Hopper, как у H100, но переходит на более ёмкую и быструю HBM3e и работает на стеке CUDA, под который написана большая часть кода для ИИ. Мы сдаём в аренду оба GPU, поэтому на этой странице говорим только о том, что можно проверить до заказа: о памяти, форматах, интерконнекте, цене и трудозатратах на портирование.

## MI355X и H200: коротко о главном

На бумаге MI355X лидирует по всем аппаратным характеристикам. AMD указывает для MI355X 5,0 PFLOPS в FP8 без разреженности — примерно в 2,5 раза больше, чем 1 979 TFLOPS, которые NVIDIA указывает для H200. Кроме того, у него примерно вдвое больше памяти и примерно в 1,7 раза выше пропускная способность. Сильные стороны H200 — в другом: совместимость с CUDA, годы использования Hopper в продакшене по всей отрасли и тариф с одним GPU.

Цена тоже говорит в пользу MI355X. Наш сервер 8× MI355X стоит 19 900 $ в месяц, а сервер HGX H200 — 23 900 $: на 4 000 $ меньше за вдвое больший объём памяти. Если ваше ПО работает на ROCm, MI355X — более сильный сервер. Если нет, его аппаратное преимущество вам ничего не даст.

## Память: 288 ГБ против 141 ГБ на GPU

Объём памяти определяет, сколько GPU нужно модели и сколько места останется для KV-кэша. Веса занимают примерно 2 байта на параметр в BF16, 1 байт в FP8 и 0,5 байта в FP4; заложите ещё 10–30% на KV-кэш, активации и накладные расходы. В таблице учтены только веса.

| Модель и точность | Веса, примерно | Нужно GPU H200 | Нужно GPU MI355X |
| --- | --- | --- | --- |
| Плотная модель 70B, FP8 | 70 ГБ | 1 | 1 |
| Плотная модель 70B, BF16 | 140 ГБ | 1 без всякого запаса, на практике 2 | 1 |
| Плотная модель 405B, FP8 | 405 ГБ | 3 | 2 |
| Плотная модель 405B, BF16 | 810 ГБ | 6 | 3 |
| MoE-модель (mixture of experts) 671B, FP8 | 671 ГБ | 5 | 3 |
| MoE-модель 671B, BF16 | 1 342 ГБ | 10 — больше, чем в одном 8-GPU-сервере | 5 |

Две последние строки показывают разницу нагляднее всего. DeepSeek-V3, MoE-модель на 671B параметров, выпущена с весами в FP8. Оба 8-GPU-сервера их вмещают, но сервер MI355X оставляет под KV-кэш около 1,6 ТБ против примерно 450 ГБ на HGX H200. В BF16 модель вообще помещается только на сервер MI355X, и свободными остаются примерно 960 ГБ. Этот случай подробно разобран в нашем [руководстве по системным требованиям DeepSeek](https://fullgpu.com/ru/blog/deepseek-hardware-requirements).

Длинные контексты показывают тот же разрыв в пределах одного GPU. Модели класса 70B с механизмом grouped-query attention (80 слоёв и 8 KV-голов, как у Llama 3 70B) в FP8 нужно около 0,16 МБ KV-кэша на токен, поэтому один контекст на 128K токенов занимает около 21 ГБ. С загруженными весами в FP8 у H200 остаётся примерно 70 ГБ — около трёх контекстов полной длины одновременно. У MI355X остаётся примерно 218 ГБ — около десяти, без учёта накладных расходов.

## Вычислительная мощность и форматы точности

AMD указывает для MI355X 2,5 PFLOPS в BF16 и 5,0 PFLOPS в FP8 без разреженности. NVIDIA указывает для H200 989 и 1 979 TFLOPS в тех же форматах — те же цифры, что и у H100, поскольку у обоих одинаковые вычислительные блоки Hopper. Примерно в 2,5 раза более высокая пиковая производительность — это разрыв в целое поколение, а не разница в настройке. И всё же пиковые показатели — не реальная производительность: сколько из неё вы получите, решают ваши ядра (kernels) и библиотеки.

Ещё больший разрыв — в низкой точности. Самый низкий по точности формат с плавающей запятой для тензорных ядер Hopper — FP8. В CDNA 4 от AMD добавлены MXFP6 и MXFP4 — форматы Microscaling, стандартизированные в рамках Open Compute Project, — и для MXFP4 AMD указывает 10,1 PFLOPS. На H200 всё же можно обслуживать модели с 4-битными весами с помощью квантования только весов, например AWQ или GPTQ, но матричные вычисления идут в более высокой точности: расход памяти снижается, а вычислительная мощность не растёт. На MI355X 4-битные и 6-битные модели могут выполнять вычисления нативно — там, где это поддерживает ваш фреймворк. Подробнее — в нашем [обзоре AMD MI355X для задач ИИ](https://fullgpu.com/ru/blog/amd-mi355x-for-ai).

## Пропускная способность памяти и интерконнект

Для каждого сгенерированного токена из памяти нужно считать активные веса и KV-кэш, поэтому при малых размерах батча темп интерактивного инференса часто задаёт пропускная способность. AMD указывает для MI355X 8 ТБ/с, а NVIDIA для H200 — 4,8 ТБ/с: на модели, которая помещается на оба GPU, MI355X считывает эти данные примерно в 1,7 раза быстрее.

Внутри сервера HGX H200 соединяет все GPU через коммутаторы NVLink, и у каждого GPU 900 ГБ/с пропускной способности NVLink 4, поэтому любая пара GPU обменивается данными на полной скорости NVLink. MI355X использует прямую полносвязную топологию Infinity Fabric: AMD указывает семь каналов по 153,6 ГБ/с на GPU, по одному к каждому из остальных GPU, всего около 1,08 ТБ/с. All-reduce и другие коллективные операции задействуют все каналы; передача между двумя конкретными GPU идёт по единственному каналу между ними. Для обучения с интенсивным тензорным параллелизмом профилируйте оба варианта. В инференсе благодаря объёму памяти MI355X модель часто можно разделить на меньшее число GPU, что сокращает обмен данными в самом его источнике.

Для связи между серверами у обоих есть восемь сетевых портов 400G: ConnectX-7 в HGX H200 и RoCE в MI355X. [Частная сеть](https://fullgpu.com/ru/products/private-networking) между вашими серверами доступна по запросу.

## Стоимость в месяц: 19 900 $ против 23 900 $

Наш сервер 8× MI355X обходится примерно в 3,41 $ за GPU-час, а HGX H200 — примерно в 4,09 $. В пересчёте на гигабайт видеопамяти (VRAM) это около 8,64 $ в месяц против 21,19 $: на MI355X примерно в 2,5 раза больше памяти на каждый доллар.

H200 выигрывает по гранулярности. Один H200 стоит 3 090 $ в месяц и вмещает модель 70B в FP8 с местом для KV-кэша. Если вашей задаче хватает одного GPU, у MI355X нет тарифа для сравнения: его мы сдаём только целым 8-GPU-сервером. Два или три отдельных H200 тоже обходятся меньше чем в 10 000 $ в месяц, хотя как отдельные виртуальные машины они подходят скорее для независимых задач, чем для одной модели, разделённой между несколькими GPU.

Серверов MI355X мало в наличии, а гарантированная дата выдачи показывается до оплаты. Когда у вас появится активный сервер, вы сможете запросить через тикет специальные цены на срок от 6 до 12 месяцев или на несколько серверов. Свои итоговые суммы посчитайте в [калькуляторе стоимости GPU](https://fullgpu.com/ru/tools/gpu-cost-calculator).

## Программное обеспечение: стек Hopper против ROCm

H200 работает с тем же ПО, что и H100: те же сборки CUDA, те же ядра, те же образы контейнеров. Если ваш стек обучения или инференса сегодня работает на Hopper, он заработает на H200 — с большим объёмом памяти и без портирования. Когда сроки поджимают, такая предсказуемость действительно ценна.

MI355X работает на ROCm. PyTorch и vLLM его поддерживают, а наши образы с ROCm дают готовую основу. Трудности возникают с собственными ядрами CUDA, которые нужно портировать на HIP, и с инструментами только для NVIDIA, такими как TensorRT-LLM, у которых нет версии для AMD. Проверьте свои зависимости, а затем запустите реальную задачу на месяц: минимальный срок — один месяц, и вы можете бесплатно отменить аренду в любом месяце. Настройка описана в нашей [документации по ROCm](https://fullgpu.com/ru/docs/amd-rocm).

## Как выбрать

- **Один GPU, модель 70B в FP8 или меньше:** один H200 за 3 090 $ в месяц.
- **Восемь GPU, стек, совместимый с ROCm:** сервер MI355X за 19 900 $ — больше памяти, выше пропускная способность и нативный FP4.
- **Восемь GPU, зависимости только для CUDA:** HGX H200 за 23 900 $ или сервер Blackwell, если вам нужен ещё и FP4 (см. [сравнение H200 и B200](https://fullgpu.com/ru/compare/h200-vs-b200)).
- **Не уверены, что стек удастся перенести:** протестируйте его на MI355X один месяц, прежде чем брать обязательства на более длительный срок.

## Часто задаваемые вопросы

### MI355X лучше, чем H200?

По оборудованию — да: вдвое больше памяти на GPU, примерно в 1,7 раза выше пропускная способность памяти и примерно в 2,5 раза выше опубликованная производителями пиковая производительность в FP8 и BF16. H200 — более надёжный выбор, если ваш код зависит от компонентов только для CUDA: на нём стек Hopper работает без изменений.

### Можно ли запустить модель 70B на одном H200?

Да, в FP8: веса занимают около 70 ГБ, и около 70 ГБ остаётся под KV-кэш. В BF16 одни только веса занимают около 140 ГБ, поэтому понадобятся два H200 или GPU с большим объёмом памяти, например MI355X или B200.

### Поддерживает ли H200 формат FP4?

Нативно — нет: самый низкий по точности формат с плавающей запятой для тензорных ядер Hopper — FP8. Хранить веса в 4 битах можно с помощью квантования только весов, но вычисления идут в более высокой точности, тогда как MI355X поддерживает MXFP4 и MXFP6 аппаратно.

### Нужно ли менять код, чтобы перейти с H200 на MI355X?

Для кода на PyTorch или vLLM обычно нет: оба поддерживают ROCm, а PyTorch сохраняет на GPU AMD свой интерфейс устройств torch.cuda. Собственные ядра CUDA нужно портировать на HIP, а инструменты только для NVIDIA, такие как TensorRT-LLM, — заменить.

### Что лучше для моделей класса DeepSeek?

MoE-модель на 671B параметров занимает в FP8 около 671 ГБ. Её вмещают оба 8-GPU-сервера, но сервер MI355X оставляет под KV-кэш около 1,6 ТБ против примерно 450 ГБ на HGX H200, а в BF16 модель помещается только на сервер MI355X.

## Связанные страницы

- [Аренда 8-GPU-сервера AMD MI355X за 19 900 $ в месяц](https://fullgpu.com/ru/gpus/amd-mi355x): Аренда MI355X: bare-metal-сервер 8× AMD Instinct MI355X (288 ГБ HBM3e на GPU) за 19 900 $/мес., около 3,41 $ за GPU-час. Образ с ROCm, оплата криптовалютой.
- [Аренда серверов NVIDIA H200 и HGX H200 от 3 090 $ в месяц](https://fullgpu.com/ru/gpus/nvidia-h200): Аренда выделенного NVIDIA H200 (141 ГБ) за 3 090 $/мес. (≈ 4,23 $ за GPU-час 24/7) или 8-GPU HGX H200 за 23 900 $. Фиксированная цена, оплата криптовалютой.
- [MI355X vs B200: сравнение памяти, программного стека и стоимости](https://fullgpu.com/ru/compare/mi355x-vs-b200): Сравнение MI355X и B200: 288 против 180 ГБ HBM, ROCm или CUDA, 4-битные форматы и стоимость GPU в месяц. Какой 8-GPU-сервер подойдёт вашим моделям и бюджету.
- [H200 vs B200: Hopper или Blackwell для вашего следующего GPU-сервера?](https://fullgpu.com/ru/compare/h200-vs-b200): Сравнение H200 и B200: 141 против 180 ГБ, 4,8 против 8 ТБ/с, FP4 и NVLink 5. Что помещается, за что вы доплачиваете 1 500 $/мес. и когда выгоднее H200.
- [Системные требования DeepSeek R1: GPU и память для R1 и V3](https://fullgpu.com/ru/blog/deepseek-hardware-requirements): Системные требования DeepSeek R1: около 671 ГБ весов в FP8 плюс KV-кэш. Какие 8-GPU-серверы подходят для R1 и V3 и какие GPU нужны дистиллированным моделям.
- [GPU-серверы для инференса LLM: круглосуточно и по фиксированной цене](https://fullgpu.com/ru/solutions/inference): GPU-серверы для инференса LLM с vLLM, SGLang или TensorRT-LLM: расчёт KV-кэша, FP8 и FP4, 20–50 ТБ трафика включено. Посмотрите расчёты.