Серверная платформа NVIDIA HGX H200 8-GPU — это передовая платформа для обучения больших языковых моделей, генеративного ИИ и высокопроизводительных научных вычислений. Она оснащена восемью GPU NVIDIA H200 с 141 ГБ HBM3e каждый, поддерживает Transformer Engine, формат FP8 и полносвязную топологию NVLink с NVSwitch. Идеальна для задач LLM, мультимодальных моделей, симуляций и масштабируемых ИИ-кластеров в научной, медицинской и промышленной сферах.
Благодаря большему объему видеопамяти, доступной для активаций и пакетных данных, H200 поддерживает большие размеры пакетов до достижения пределов памяти. В задачах на точность BF16 наблюдается примерно 47% повышение производительности по сравнению с H100 при размерах пакетов, превышающих возможности H100.

Характеристики
Память графического процессора
141 ГБ HBM3e
Пропускная способность памяти
4.8 TB / s
Тензорное ядро ​​FP8
3,958 TFLOPS
Повышение энергоэффективности
+50% по сравнению с H100
Мультиэкземплярный графический процессор
До 7 экземпляров
Год выпуска
2024