Коротко: NVIDIA DGX B200 — готовый ИИ-сервер NVIDIA на восьми ускорителях Blackwell B200 с суммарной памятью 1440 ГБ HBM3e. Ускорители связаны NVLink пятого поколения и работают как один большой GPU. По данным NVIDIA, система в разы быстрее DGX H100 в обучении и особенно в инференсе больших языковых моделей благодаря поддержке FP4. Сервер потребляет до 14 кВт и рассчитан на дата-центры с мощным питанием и охлаждением. Цена в Grace Team — 119 549 000 ₽.
Характеристики NVIDIA DGX B200
| Ускорители | 8 × NVIDIA B200 |
| Память GPU | 1440 ГБ HBM3e суммарно |
| Связь между GPU | NVLink пятого поколения через NVSwitch |
| Производительность | до 72 петафлопс в FP8 для обучения и до 144 петафлопс в FP4 для инференса |
| Процессоры | 2 × Intel Xeon Platinum |
| Сеть | адаптеры NVIDIA ConnectX-7 на 400 Гбит/с и DPU BlueField-3 |
| Энергопотребление | до 14,3 кВт |
| Высота | 10U |
Характеристики — по данным NVIDIA; производительность указана для разреженных вычислений.
Что даёт архитектура Blackwell
- FP4. Новый формат вычислений удваивает производительность инференса по сравнению с FP8 при минимальной потере качества ответов.
- 180 ГБ памяти на GPU. Крупные модели помещаются в меньшее количество ускорителей, а на сервер — в разы больше пользователей.
- NVLink 5. Восемь ускорителей обмениваются данными с огромной скоростью, что критично для обучения моделей на сотни миллиардов параметров.
- Движок Transformer второго поколения ускоряет работу языковых моделей на уровне аппаратуры.
DGX B200, DGX H100 или серверы на H200
| Система | Память GPU | Для чего | Цена в Grace Team |
|---|
| NVIDIA DGX H100 | 8 × 80 ГБ = 640 ГБ | обучение и инференс, проверенная платформа | 26 688 400 ₽ |
| QuantaGrid D74H, 8 × H200 | 8 × 141 ГБ = 1128 ГБ | инференс крупных моделей | 70 400 000 ₽ |
| Gigabyte G4L3-ZX1, 8 × MI355X | 8 × 288 ГБ | альтернатива на AMD | 48 000 000 ₽ |
| NVIDIA DGX B200 | 8 × 180 ГБ = 1440 ГБ | максимальная скорость обучения и инференса | 119 549 000 ₽ |
Цены — из каталога Grace Team на момент обновления статьи, на серверное оборудование уточняйте у менеджера. Подробнее о выборе ускорителей — в сравнении
«NVIDIA H100, H200, B200 или L40S».
Требования к инфраструктуре
- Питание: до 14,3 кВт на один сервер, несколько блоков питания с резервированием.
- Охлаждение: мощное воздушное охлаждение стойки или стойки с жидкостным охлаждением.
- Сеть: для кластера из нескольких DGX нужна фабрика InfiniBand или Ethernet на 400 Гбит/с.
- Хранилище: быстрые NVMe-системы для подачи данных при обучении.
Если инфраструктура не готова к таким мощностям, начните с систем на H200 или с настольных решений — о них в статье
«DGX Station GB300».
Кому нужен DGX B200
- компаниям, которые обучают собственные языковые и мультимодальные модели;
- провайдерам облачных ИИ-сервисов;
- крупным предприятиям с сотнями сотрудников, использующих внутренних ИИ-ассистентов;
- исследовательским центрам и университетам.
Программное обеспечение DGX
DGX — это не только железо. Сервер поставляется с операционной системой DGX OS, оптимизированными драйверами и библиотеками, а также доступом к программному стеку NVIDIA для обучения и развёртывания моделей. Готовые контейнеры с фреймворками ускоряют запуск проектов: команде не нужно неделями настраивать окружение и подбирать версии библиотек.
Масштабирование в кластер
Один DGX B200 — уже мощная система, но для обучения крупнейших моделей серверы объединяют в кластеры. Восемь сетевых адаптеров на 400 Гбит/с обеспечивают быстрый обмен данными между серверами. Для кластеров нужны коммутаторы InfiniBand или Ethernet соответствующего класса, высокопроизводительное хранилище и система управления заданиями. NVIDIA предлагает эталонные архитектуры, по которым такие кластеры строятся предсказуемо.
Как оценить окупаемость
- Обучение собственных моделей. Сравните стоимость сервера с арендой эквивалентных мощностей в облаке на срок проекта и на 3 года вперёд.
- Инференс. Посчитайте, сколько пользователей и запросов в секунду обслуживает сервер, и стоимость одного запроса.
- Конфиденциальность. Для банков, медицины и госсектора локальный сервер — часто единственный вариант работать с чувствительными данными.
- Скорость экспериментов. Собственная система позволяет запускать эксперименты без очереди в облаке.
Подготовка площадки
Перед поставкой проверьте дата-центр: мощность на стойку, охлаждение, нагрузку на пол, ширину проходов и лифтов для 10U-сервера, а также наличие источников бесперебойного питания. Иногда для размещения нескольких DGX требуется модернизация электропитания и охлаждения — это стоит планировать за несколько месяцев до поставки.
Сроки и поставка
Серверы такого класса часто поставляются под заказ, а сроки зависят от доступности оборудования. Мы подготовим коммерческое предложение, согласуем сроки и поможем с документами для юридического лица. Для оценки конфигурации пришлите описание задач, размеры моделей и требования к инфраструктуре.
DGX B200 или серверы других производителей
Помимо DGX, производители серверов выпускают системы на тех же ускорителях B200 в формате HGX. Они могут быть дешевле и гибче по конфигурации, а DGX выигрывает готовым программным стеком, эталонной архитектурой и поддержкой NVIDIA. Выбор зависит от того, есть ли у вашей команды опыт сборки и сопровождения ИИ-инфраструктуры.
Где купить NVIDIA DGX B200
Grace Team поставляет NVIDIA DGX B200, серверы на H200 и AMD Instinct, а также сетевое оборудование и накопители для ИИ-кластеров. Работаем с юридическими лицами по безналичному расчёту, доставляем по всей России. Каталог — в разделе
Серверное оборудование, консультация — по телефону
+7 (915) 006-34-31 или в
Telegram.
Частые вопросы
Сколько памяти у NVIDIA DGX B200?
1440 ГБ памяти HBM3e на восьми ускорителях B200 — по 180 ГБ на каждый.
Чем DGX B200 лучше DGX H100?
Больше памяти на GPU, более быстрая связь NVLink 5 и поддержка FP4. По данным NVIDIA, это даёт кратный прирост в обучении и особенно в инференсе.
Сколько потребляет DGX B200?
До 14,3 кВт на один сервер, поэтому нужна стойка с мощным питанием и охлаждением.
Какое ПО поставляется с DGX B200?
DGX OS, оптимизированные драйверы и библиотеки, а также доступ к программному стеку NVIDIA и готовым контейнерам с фреймворками для обучения и инференса.
Можно ли объединить несколько DGX B200 в кластер?
Да, через высокоскоростную сеть InfiniBand или Ethernet 400 Гбит/с. Для кластера также нужны быстрое хранилище и система управления заданиями.
Источники
- NVIDIA DGX B200. nvidia.com