Серверная платформа GPU NVIDIA HGX H200 — это передовая платформа для обучения больших языковых моделей, генеративного ИИ и высокопроизводительных научных вычислений. Она оснащена восемью GPU NVIDIA H200 с 141 ГБ HBM3e каждый, поддерживает Transformer Engine, формат FP8 и полносвязную топологию NVLink с NVSwitch. Идеальна для задач LLM, мультимодальных моделей, симуляций и масштабируемых ИИ-кластеров в научной, медицинской и промышленной сферах.

Технические характеристики

• Видеопамять: 141 ГБ HBM3e на каждый GPU (общий объем — 1,128 ТБ).
• Пропускная способность памяти (ПСП): 4,8 ТБ/с на один GPU.
• Производительность: Свыше 32 PFLOPS для вычислений в формате FP8 на всю систему из 8 GPU.
• Межсоединения: Архитектура NVLink 4.0 и NVSwitch, обеспечивающие двунаправленную пропускную способность 900 ГБ/с на GPU для бесшовного объединения всех видеокарт в кластер.
• Энергопотребление: До 700 Вт на один ускоритель (TDP).

Архитектура и компоненты платформы

• Комплектация сервера: Базовая плата HGX с 8 GPU в форм-факторе SXM (крепление напрямую к плате).
• Процессоры (CPU): 2 серверных процессора (выбор между Intel Xeon Scalable 4-го/5-го поколения или AMD EPYC серий 9004/9005).
• Память: До 32 слотов DIMM для DDR5 RAM.
• Сеть: До 8 портов 400G InfiniBand/Ethernet (используются адаптеры NVIDIA ConnectX-7).