QuantaGrid D74H-7U (Quanta S7PH) с 8 ускорителями NVIDIA H200 SXM (141 ГБ) — это мощный стоечный AI-сервер корпоративного класса, созданный компанией QCT (Quanta Cloud Technology) для работы с массивными языковыми моделями (LLM), глубокого обучения и суперкомпьютерных вычислений (HPC).

Основные технические характеристики

• Форм-фактор: 7U (установка в стандартную стойку).
• Графическая подсистема (GPU): 8 × NVIDIA H200 SXM5 с объемом памяти 141 ГБ HBM3e на каждый ускоритель (суммарно 1,128 ТБ высокоскоростной памяти), объединенных через NVLink 4.0 и NVSwitch 3.0 (пропускная способность до 900 ГБ/с).
• Центральные процессоры (CPU): 2 поддерживаемых процессора Intel Xeon Scalable (4-го или 5-го поколения, например, топовые Intel Xeon Platinum 8558).
• Оперативная память (RAM): 32 слота DIMM под память DDR5 (поддержка высокоскоростных модулей ECC RDIMM).
• Дисковая подсистема: До 18 отсеков под 2.5" накопители All-NVMe, оптимизированных под технологию GPUDirect Storage для исключения задержек при подаче данных.
• Сетевые интерфейсы: До 10 слотов OCP NIC 3.0 для реализации высокоскоростных неблокирующих соединений GPUDirect RDMA (например, с поддержкой адаптеров 400GbE).
• Электропитание: Высомощные отказоустойчивые блоки питания с возможностью горячей замены (резервирование по схеме N+N, суммарной мощностью до нескольких тысяч ватт).

Назначение и возможности

• Обучение и инференс LLM: Оптимизирован под работу с популярными современными архитектурами моделей (DeepSeek, Llama, Qwen, GPT и др.).
• GPUDirect технологии: Прямой доступ к памяти GPU минуя CPU для дисков и сетевых карт, что критически важно при обработке петабайтов данных в реальном времени.
• Модульная конструкция: Сервер спроектирован по принципу бесшовного обслуживаемого шасси (tool-less), позволяющего заменять основные узлы без полного демонтажа из стойки.