Коротко: NVIDIA H200 и H100 построены на одной архитектуре Hopper, но у H200 почти вдвое больше памяти — 141 ГБ HBM3e против 80 ГБ — и выше её пропускная способность: 4,8 ТБ/с против 3,35 ТБ/с у H100 SXM. Для больших языковых моделей это означает больше модели на одной карте и быстрее генерацию: по данным NVIDIA, в инференсе крупных LLM H200 до 1,9 раза быстрее H100. Для новых проектов с LLM выбирайте H200; H100 остаётся рабочим вариантом для обучения и задач, где 80 ГБ хватает.
Сравнение H100 и H200
| Параметр | H100 SXM | H200 SXM |
|---|
| Архитектура | Hopper | Hopper |
| Память | 80 ГБ HBM3 | 141 ГБ HBM3e |
| Пропускная способность памяти | 3,35 ТБ/с | 4,8 ТБ/с |
| Инференс крупных LLM | база | до 1,9× быстрее по данным NVIDIA |
Характеристики — по данным NVIDIA. У PCIe-версий параметры ниже, чем у SXM.
Почему память так важна
При работе больших языковых моделей скорость часто ограничена не вычислениями, а тем, как быстро данные поступают из памяти. Больший объём позволяет держать модель и кеш контекста на меньшем числе карт, а большая пропускная способность — быстрее генерировать токены. Поэтому H200 даёт заметный прирост именно в инференсе LLM при той же вычислительной архитектуре.
SXM или NVL (PCIe)
SXM — модули для серверных платформ HGX: 8 ускорителей связаны NVLink и работают как единая система, это стандарт для обучения и крупного инференса. H200 NVL — версия в формате PCIe для серверов с воздушным охлаждением: проще интегрировать в существующую инфраструктуру, карты можно объединять мостами NVLink.
Серверы и ускорители в Grace Team
Цены в Grace Team обновлены 7 ноября 2026 года.
Что выбрать
- Инференс больших языковых моделей — H200: больше памяти и выше скорость генерации.
- Обучение моделей, которые помещаются в 80 ГБ — H100 по-прежнему эффективен.
- Нужен максимум производительности нового поколения — посмотрите системы на Blackwell: DGX B200 и стойки GB200 NVL72 в разделе Серверное оборудование.
Как подобрать конфигурацию сервера целиком — в статье
сервер для ИИ.
Сколько памяти нужно под модель
Чтобы понять, хватит ли памяти, оцените размер модели и нагрузку. В формате FP16 модель занимает около 2 ГБ на миллиард параметров, в FP8 — около 1 ГБ. Модель на 70 млрд параметров в FP8 занимает около 70 ГБ — на H100 с 80 ГБ почти не остаётся места под контекст и одновременные запросы, а H200 со 141 ГБ даёт комфортный запас.
Помимо весов модели, память нужна под кэш контекста: чем длиннее диалоги и чем больше пользователей одновременно, тем больше памяти занимает этот кэш. Поэтому для сервисов с длинным контекстом и большой нагрузкой H200 выгоднее даже при той же вычислительной мощности.
Обучение или инференс
- Обучение крупных моделей — задача для кластеров из многих серверов HGX. Здесь важны и вычисления, и память, и межсерверная сеть. H200 позволяет использовать больший размер пакета и меньше дробить модель между ускорителями.
- Дообучение моделей среднего размера под задачи компании часто укладывается в один сервер с 8 ускорителями.
- Инференс — основная нагрузка в продакшене. Здесь H200 особенно выгоден: больше пользователей на один сервер и выше скорость генерации.
Инфраструктура для HGX
Сервер с 8 ускорителями SXM потребляет порядка 10 кВт и более, поэтому перед покупкой проверьте возможности дата-центра: электропитание, охлаждение, нагрузку на пол и размеры стойки. Для кластеров нужна высокоскоростная сеть InfiniBand или Ethernet 400 Гбит/с между серверами и быстрая система хранения данных. Мы помогаем рассчитать требования к инфраструктуре и подобрать решения под объём вашей площадки.
Программная совместимость
H100 и H200 используют одну архитектуру Hopper, поэтому программное обеспечение полностью совместимо: CUDA, фреймворки обучения и инференса, контейнеры NVIDIA работают одинаково. Переход с H100 на H200 не требует изменений в коде — модели просто получают больше памяти и пропускной способности.
Как принять решение
Если вы запускаете сервис на крупных языковых моделях и рассчитываете на рост нагрузки, выбирайте H200 — запас памяти окупится. Если задачи помещаются в 80 ГБ, а бюджет ограничен, H100 остаётся эффективным решением. Для расчёта мы попросим размер моделей, ожидаемое число пользователей и длину контекста — и предложим конфигурацию с оценкой производительности.
Где купить NVIDIA H100 и H200
Ускорители и серверы NVIDIA — в разделе
Серверное оборудование. Подготовим коммерческое предложение и подберём конфигурацию под вашу модель. Звоните
+7 (915) 006-34-31 или пишите в
Telegram.
Частые вопросы
Чем H200 отличается от H100?
У H200 141 ГБ памяти HBM3e вместо 80 ГБ и пропускная способность 4,8 ТБ/с вместо 3,35 ТБ/с у H100 SXM. Вычислительная архитектура Hopper у них общая.
Насколько H200 быстрее H100?
По данным NVIDIA, в инференсе крупных языковых моделей — до 1,9 раза. В задачах, не ограниченных памятью, разница меньше.
Что такое H200 NVL?
Версия H200 в формате PCIe для серверов с воздушным охлаждением. Карты можно объединять мостами NVLink.
Сколько стоит NVIDIA H200?
В Grace Team серверная платформа HGX H200 стоит от 4 275 000 ₽, HGX H200 8-GPU — 6 550 000 ₽ (цены обновлены 7 ноября 2026 года).
Хватит ли H100 для модели на 70 млрд параметров?
В FP8 модель займёт около 70 ГБ — почти вся память H100 уйдёт на веса. Для комфортной работы с контекстом и множеством пользователей лучше H200 со 141 ГБ.
Нужно ли менять код при переходе с H100 на H200?
Нет, обе модели на архитектуре Hopper, поэтому программное обеспечение полностью совместимо.
Источники
- NVIDIA H200 Tensor Core GPU: nvidia.com
- NVIDIA H100 Tensor Core GPU: nvidia.com