# MI355X vs B200: сравнение памяти, программного стека и стоимости

> Сравнение MI355X и B200: 288 против 180 ГБ HBM, ROCm или CUDA, 4-битные форматы и стоимость GPU в месяц. Какой 8-GPU-сервер подойдёт вашим моделям и бюджету.

Источник: https://fullgpu.com/ru/compare/mi355x-vs-b200  
Обновлено: 2026-10-23  
Издатель: FullGPU (https://fullgpu.com/)

**Коротко:** Если вас ограничивает память, а ваш стек работает на ROCm, сервер MI355X даёт 2 304 ГБ HBM3e за 19 900 $ в месяц; если вы зависите от ПО только для CUDA или вам нужен один GPU, выбирайте B200.

## Характеристики MI355X и B200

| Характеристика | AMD Instinct MI355X | NVIDIA B200 |
| --- | --- | --- |
| Архитектура | CDNA 4 | Blackwell |
| Видеопамять | 288 ГБ HBM3e | 180 ГБ HBM3e |
| Пропускная способность памяти | 8 ТБ/с | 8 ТБ/с |
| FP4 | 10 100 TFLOPS | 9 000 TFLOPS |
| FP8 | 5 000 TFLOPS | 4 500 TFLOPS |
| BF16 / FP16 | 2 500 TFLOPS | 2 250 TFLOPS |
| Интерконнект GPU | Infinity Fabric | NVLink 5 · 1,8 ТБ/с |
| Форм-фактор | Модуль OAM · с жидкостным охлаждением | Модуль SXM · HGX B200 |
| Макс. энергопотребление | 1 400 Вт | 1 000 Вт |

## Помесячные цены в FullGPU

| Конфигурация | Тип | Видеопамять | Процессор | ОЗУ | Накопители | Сеть | Цена в месяц (USD) | За GPU-час | Наличие |
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- |
| [8× AMD Instinct MI355X](https://fullgpu.com/ru/gpus/amd-mi355x) | 8-GPU-сервер | 8 × 288 ГБ HBM3e | 2× EPYC 9575F · 128 ядер | 3 ТБ DDR5 | 8× 3,84 ТБ NVMe | 8× 400G RoCE | 19 900 $ | 3,41 $ | Мало в наличии, выдача менее чем за 10 минут после оплаты |
| [NVIDIA B200](https://fullgpu.com/ru/gpus/nvidia-b200) | Один GPU | 180 ГБ HBM3e | 26 vCPU | 256 ГБ | 2,75 ТБ NVMe | 25 Гбит/с | 4 590 $ | 6,29 $ | В наличии, выдача менее чем за 10 минут после оплаты |
| [8× NVIDIA HGX B200](https://fullgpu.com/ru/gpus/nvidia-b200) | 8-GPU-сервер | 8 × 180 ГБ HBM3e | 2× Xeon 8570 · 112 ядер | 2 ТБ DDR5 | 8× 3,84 ТБ NVMe | 8× 400G ConnectX-7 | 34 900 $ | 5,98 $ | В наличии, выдача менее чем за 10 минут после оплаты |

За GPU-час = цена в месяц ÷ число GPU ÷ 730 часов. Это значение приводится только для сравнения с почасовыми предложениями: каждый тариф оплачивается по фиксированной цене в месяц.

## Выбирайте MI355X, если…

- Вашим моделям, контекстам или батчам нужно больше 180 ГБ на GPU.
- Вам нужно как можно больше видеопамяти на каждый доллар в 8-GPU-сервере.
- Ваш стек работает на PyTorch или vLLM без собственных ядер CUDA.

## Выбирайте B200, если…

- Ваш код зависит от библиотек только для CUDA, TensorRT-LLM или собственных ядер CUDA.
- Вам достаточно одного GPU: B200 мы сдаём и поодиночке, за 4 590 $ в месяц.
- Вы хотите обслуживать модели в NVFP4 с помощью инструментов инференса NVIDIA.
- Ваше обучение требует интенсивного обмена данными между GPU и выигрывает от NVLink 5 со скоростью 1,8 ТБ/с на GPU.

## Обзор

Выбор между MI355X и B200 сводится к дилемме: память или программное обеспечение. У AMD Instinct MI355X 288 ГБ HBM3e на GPU, у NVIDIA B200 — 180 ГБ HBM3e. Для обоих заявлена пропускная способность памяти 8 ТБ/с, а опубликованные производителями пиковые показатели вычислительной мощности различаются примерно на 10%. Разделяют их объём памяти на GPU, программный стек (ROCm или CUDA), конфигурации, которые мы сдаём в аренду, и цена в месяц.

## MI355X или B200: краткий ответ

Выбирайте MI355X, когда модели, её контексту или батчу нужно больше 180 ГБ на GPU, а ваш код работает на фреймворках с поддержкой ROCm, таких как PyTorch и vLLM. Выбирайте B200, когда вы зависите от компонентов только для CUDA, когда достаточно одного GPU или когда вам нужны инструменты NVIDIA для моделей в NVFP4.

Разница в цене большая. MI355X мы сдаём в виде 8-GPU-сервера за 19 900 $ в месяц — около 3,41 $ за GPU-час. Сервер HGX B200 стоит 34 900 $ в месяц — около 5,98 $ за GPU-час. Кроме того, мы сдаём один B200 за 4 590 $ в месяц, а MI355X — только целым 8-GPU-сервером.

## Память: 288 ГБ против 180 ГБ и что помещается

Веса занимают примерно число параметров × число байт на параметр: 2 байта в BF16, 1 байт в FP8, 0,5 байта в FP4. Заложите ещё 10–30% на KV-кэш, активации и накладные расходы среды выполнения. В таблице учтены только веса, поэтому считайте каждое значение нижней границей.

| Модель и точность | Веса, примерно | Нужно GPU B200 | Нужно GPU MI355X |
| --- | --- | --- | --- |
| Плотная модель 70B, BF16 | 140 ГБ | 1, свободно около 40 ГБ | 1, свободно около 148 ГБ |
| Плотная модель 405B, FP4 | 203 ГБ | 2 | 1, свободно около 85 ГБ |
| Плотная модель 405B, FP8 | 405 ГБ | 3 | 2 |
| Плотная модель 405B, BF16 | 810 ГБ | 5 | 3 |
| MoE-модель (mixture of experts) 671B, FP8 | 671 ГБ | 4 | 3 |

Группы тензорного параллелизма обычно состоят из 2, 4 или 8 GPU, поэтому три B200 в теории на практике часто превращаются в четыре. Закономерность сохраняется в любом случае: с MI355X той же модели нужно меньше GPU, и на каждом из них остаётся больше свободной памяти.

Эта свободная память — ваш ресурс для обслуживания запросов. Модель класса 70B с механизмом grouped-query attention (80 слоёв и 8 KV-голов размерностью 128, как у Llama 3 70B) хранит в 16-битном формате около 0,33 МБ KV-кэша на токен, поэтому один диалог на 8K токенов занимает около 2,7 ГБ. С загруженными весами в BF16 в 40 ГБ запаса на B200 помещается примерно 15 таких диалогов, а в 148 ГБ на MI355X — примерно 55, без учёта накладных расходов. Одному контексту на 128K токенов нужно около 43 ГБ — больше, чем остаётся на B200. Если хранить KV-кэш в FP8, затраты памяти на токен на обоих GPU сократятся вдвое.

## Вычислительная мощность и точность: MXFP4 и MXFP6 против NVFP4

AMD указывает для MI355X 5,0 PFLOPS в FP8 и 2,5 PFLOPS в BF16 без разреженности. NVIDIA указывает для B200 4,5 и 2,25 PFLOPS в тех же форматах. Оба производителя примерно удваивают эти показатели за счёт структурированной разреженности, которая применима только к моделям, прореженным по соответствующей схеме. На бумаге MI355X впереди примерно на 10%. Однако пиковые показатели — это не реальная производительность: то, что вы получите, определяют ядра (kernels), библиотеки и обмен данными между GPU, и именно здесь проявляется зрелость программного обеспечения.

4-битные форматы различаются сильнее, чем можно подумать по основным цифрам. В CDNA 4 от AMD появилась аппаратная поддержка MXFP6 и MXFP4 — форматов Microscaling, стандартизированных в рамках Open Compute Project, — и для MXFP4 AMD указывает 10,1 PFLOPS. Blackwell тоже поддерживает форматы MX и добавляет NVFP4 — собственный 4-битный формат NVIDIA: он масштабирует значения блоками по 16 с масштабным коэффициентом в FP8, тогда как MXFP4 использует блоки по 32 с масштабом в виде степени двойки. По словам NVIDIA, более тонкое масштабирование позволяет 4-битным моделям лучше сохранять качество исходной модели. Для B200 NVIDIA указывает 9 PFLOPS в FP4 без разреженности и 18 — с разреженностью.

На практике, если вы планируете обслуживать опубликованные чекпоинты NVFP4 с помощью инструментов NVIDIA, B200 — самый прямой путь. Модели в FP8, BF16 или MXFP4 оба GPU поддерживают аппаратно, и проверять нужно поддержку формата в вашем фреймворке для инференса. Как форматы влияют на качество, разобрано в нашем [руководстве по форматам точности FP8 и FP4](https://fullgpu.com/ru/blog/fp8-fp4-precision-explained).

## Пропускная способность, интерконнект и масштабирование на несколько GPU

По пропускной способности памяти — ничья: оба производителя указывают 8 ТБ/с. Генерация токенов обычно ограничена тем, как быстро веса и KV-кэш поступают из памяти, поэтому на модели, которая помещается на оба GPU, пропускная способность их не различает. Различает объём памяти.

А вот связь между GPU устроена по-разному. В HGX B200 у каждого GPU 1,8 ТБ/с пропускной способности NVLink 5 через коммутаторы NVLink, поэтому любая пара GPU обменивается данными на полной скорости NVLink. Платформа MI355X соединяет каждый GPU напрямую с семью остальными через Infinity Fabric: AMD указывает семь каналов по 153,6 ГБ/с, всего около 1,08 ТБ/с на GPU. Коллективные операции, такие как all-reduce, распределяют трафик по всей полносвязной топологии, а передача между двумя конкретными GPU идёт по единственному соединяющему их каналу.

Для обучения с интенсивным обменом данными и тензорным параллелизмом на большом числе GPU у коммутируемого NVLink в B200 больше запаса. В инференсе MI355X часто обходит эту проблему: модель, которой нужны четыре B200, может поместиться на два GPU MI355X, так что трафика изначально меньше. Для связи между серверами у обоих есть восемь сетевых портов 400G, по одному на GPU: ConnectX-7 в HGX B200 и RoCE в MI355X. [Частная сеть](https://fullgpu.com/ru/products/private-networking) между вашими серверами доступна по запросу.

## Стоимость в месяц и выгода

Сервер 8× MI355X стоит 19 900 $ в месяц, а HGX B200 — 34 900 $. Разница — 15 000 $ в месяц, или 180 000 $ за год. В пересчёте на гигабайт видеопамяти (VRAM) это около 8,64 $ в месяц у MI355X против 24,24 $ у B200: почти втрое больше памяти на каждый доллар.

Сильная сторона B200 — гранулярность. Если вашей задаче хватает одного GPU, из двух вариантов подходит только один B200 за 4 590 $ в месяц. Четыре отдельных B200 стоят 18 360 $ — почти как один сервер MI355X, — но это четыре отдельные виртуальные машины без NVLink между ними: они хороши для независимых задач, но не для одной модели, разделённой между несколькими GPU.

Если вам нужно 288 ГБ на GPU, но нельзя уходить с CUDA, у [NVIDIA B300](https://fullgpu.com/ru/gpus/nvidia-b300) тоже 288 ГБ HBM3e; сервер HGX B300 стоит 39 900 $ в месяц. Чтобы сравнить итоговые суммы за нужный вам срок, воспользуйтесь [калькулятором стоимости GPU](https://fullgpu.com/ru/tools/gpu-cost-calculator).

## Программное обеспечение: ROCm против CUDA на практике

Эту часть нужно проверять, а не принимать на веру. PyTorch и vLLM поддерживают ROCm, а сборки PyTorch для ROCm сохраняют привычный интерфейс устройств `torch.cuda`, поэтому большая часть кода моделей работает без изменений. Коллективные операции выполняются через RCCL — аналог NCCL от AMD. Стек, построенный на этих компонентах, обычно переносится на MI355X установкой и настройкой, а не переписыванием кода.

Трудности возникают на периферии. Собственные ядра CUDA нужно портировать на HIP — похожий на CUDA программный интерфейс AMD; инструменты AMD HIPIFY переводят значительную часть исходного кода, но результат всё равно нужно тестировать и настраивать. ПО только для NVIDIA, например TensorRT-LLM, на GPU AMD не работает, а у некоторых библиотек только для CUDA нет сборки для ROCm. Проверяйте каждую зависимость, а не только фреймворк.

На B200 ничего этого не нужно: почти каждая библиотека для ИИ в первую очередь ориентирована на CUDA. В наших образах Ubuntu уже установлены драйверы NVIDIA, CUDA, Docker и NVIDIA Container Toolkit, а для серверов AMD мы предоставляем образы с ROCm. Начните с наших материалов о [работе с ROCm](https://fullgpu.com/ru/docs/amd-rocm) и о [PyTorch и vLLM](https://fullgpu.com/ru/docs/pytorch-vllm).

## Как сделать выбор

1. Составьте список зависимостей. Если что-то работает только на CUDA и не может быть заменено, выбирайте B200.
2. Оцените нужный объём памяти по правилу «байт на параметр» плюс KV-кэш. Если одному экземпляру модели нужно больше 180 ГБ на GPU, с MI355X понадобится меньше GPU.
3. Соотнесите масштаб. Один GPU — это один B200; если нужен целый узел, имеет смысл прицениться к серверу MI355X.
4. Проверьте, прежде чем брать обязательства. Минимальный срок — один месяц, и вы можете бесплатно отменить аренду в любом месяце, поэтому можно запустить реальную задачу на MI355X, прежде чем соглашаться на более длительный срок.

Серверов MI355X мало в наличии. [Разверните MI355X](https://fullgpu.com/ru/deploy) через одну форму: выберите конфигурацию, создайте бесплатный аккаунт или войдите в свой и оплатите первый месяц с баланса. Сервер выдаётся менее чем за 10 минут после оплаты, а если оплаченный сервер не выдан в тот же день, вы можете отменить заказ с полным возвратом средств на баланс. В форме заказа есть необязательное поле для примечаний, где можно описать вашу задачу для наших инженеров.

## Часто задаваемые вопросы

### У какого GPU больше вычислительная мощность — у MI355X или у B200?

По опубликованным производителями пиковым показателям MI355X примерно на 10% мощнее в FP8 и BF16, а пропускная способность памяти у обоих GPU заявлена на уровне 8 ТБ/с. Реальная производительность зависит от ядер, библиотек и обмена данными между GPU, поэтому тестируйте свою задачу, а не полагайтесь на пиковые цифры.

### Можно ли арендовать один MI355X?

Нет, MI355X мы сдаём только в виде 8-GPU-сервера за 19 900 $ в месяц. Если достаточно одного GPU, один B200 стоит 4 590 $ в месяц, а один H200 — 3 090 $.

### Работает ли vLLM на MI355X?

Да, vLLM поддерживает ROCm, как и PyTorch. Собственные ядра CUDA и инструменты только для NVIDIA, такие как TensorRT-LLM, придётся портировать или заменить, поэтому проверьте каждую зависимость до переезда.

### Чем MXFP4 отличается от NVFP4?

Оба — 4-битные форматы с плавающей запятой и поблочным масштабированием: MXFP4, стандартизированный в рамках Open Compute Project, масштабирует блоки по 32 значения коэффициентом в виде степени двойки, а NVFP4 от NVIDIA — блоки по 16 значений коэффициентом в FP8. MI355X поддерживает MXFP4 и MXFP6 аппаратно. B200 поддерживает форматы MX, а также NVFP4.

### Сколько GPU нужно модели 405B на каждой платформе?

Грубо говоря, 405B параметров занимают 405 ГБ в FP8 и около 203 ГБ в FP4. Это два GPU MI355X или три-четыре B200 в FP8 и один MI355X или два B200 в FP4 — без учёта KV-кэша и накладных расходов.

### Можно ли объединить несколько 8-GPU-серверов?

Да, частная сеть между вашими серверами доступна по запросу. У каждого 8-GPU-сервера восемь сетевых портов 400G — по одному на GPU.

## Связанные страницы

- [Аренда 8-GPU-сервера AMD MI355X за 19 900 $ в месяц](https://fullgpu.com/ru/gpus/amd-mi355x): Аренда MI355X: bare-metal-сервер 8× AMD Instinct MI355X (288 ГБ HBM3e на GPU) за 19 900 $/мес., около 3,41 $ за GPU-час. Образ с ROCm, оплата криптовалютой.
- [Аренда серверов NVIDIA B200 и HGX B200 от 4 590 $ в месяц](https://fullgpu.com/ru/gpus/nvidia-b200): Аренда NVIDIA B200: 4 590 $/мес. за выделенный B200 со 180 ГБ (≈ 6,29 $ за GPU-час 24/7) или 34 900 $ за сервер HGX B200. Выдача менее чем за 10 минут.
- [MI355X vs H200: вдвое больше памяти или проверенный стек?](https://fullgpu.com/ru/compare/mi355x-vs-h200): Сравнение MI355X и H200: вдвое больше памяти на GPU и нативный FP4 против зрелого стека Hopper и CUDA. Что помещается в память, интерконнект и цена в месяц.
- [B200 vs B300: стоит ли переходить на Blackwell Ultra?](https://fullgpu.com/ru/compare/b200-vs-b300): Сравнение B200 и B300: 180 против 288 ГБ HBM3e, прирост в FP4 и сеть 400G против 800G. Что помещается в память, цена гигабайта и когда достаточно B200.
- [AMD MI355X для ИИ: характеристики, ROCm и задачи, для которых он подходит](https://fullgpu.com/ru/blog/amd-mi355x-for-ai): Разбор AMD MI355X для ИИ: 288 ГБ HBM3e и 8 ТБ/с, FP8 и MXFP4, реальное состояние ROCm и задачи, которым он даёт больше всего. Прочтите перед арендой.
- [Калькулятор видеопамяти для LLM: поместится ли ваша модель на GPU?](https://fullgpu.com/ru/tools/vram-calculator): Бесплатный калькулятор видеопамяти для LLM: выберите Llama, Qwen, Mistral или gpt-oss, точность и длину контекста и посмотрите веса, KV-кэш и подходящие GPU.