Коротко: для нейросетей главное — объём видеопамяти: модель должна поместиться в память целиком. Для генерации изображений и языковых моделей до 13–30 млрд параметров хватает карты на 24–32 ГБ уровня RTX 5090. Для моделей на 70 млрд параметров и дообучения нужны 48–96 ГБ —
RTX PRO 5000 или
RTX PRO 6000. Для серверов и обучения в масштабе компании —
NVIDIA H100 и H200.
Сколько видеопамяти нужно
Простое правило для запуска языковых моделей: умножьте число параметров на объём одного параметра и добавьте 10–20% на контекст и служебные данные. В формате FP16 один параметр занимает 2 байта, в 8-битном квантовании — 1 байт, в 4-битном — около 0,5 байта.
| Модель | FP16 | 4 бита | Подходящая карта |
|---|
| 7–8 млрд параметров | ~16 ГБ | ~5 ГБ | от 16–24 ГБ |
| 30–34 млрд | ~65 ГБ | ~20 ГБ | 24–32 ГБ (в 4 битах) |
| 70 млрд | ~140 ГБ | ~40 ГБ | 48–96 ГБ или несколько карт |
Оценки приблизительные: реальный объём зависит от длины контекста, формата квантования и фреймворка. Для обучения памяти нужно в разы больше, чем для запуска.
Игровые, профессиональные и серверные карты
- Игровые GeForce RTX — лучшая цена за производительность, но ограниченный объём памяти и игровые драйверы. Подходят для экспериментов, генерации изображений и небольших моделей.
- Профессиональные RTX PRO — больше памяти с ECC, сертифицированные драйверы, удобное охлаждение для нескольких карт в рабочей станции. Подробно о флагмане — в обзоре RTX PRO 6000 Blackwell.
- Серверные H100, H200, L40S, L4 — для дата-центров: пассивное охлаждение, работа 24/7, объединение карт быстрыми интерфейсами в серверах. Разницу между флагманами разбираем в статье «NVIDIA H200 или H100».
Видеокарты для ИИ в Grace Team
| Карта | Память | Класс | Цена |
|---|
| NVIDIA L4 | 24 ГБ | серверная, энергоэффективный инференс | 572 000 ₽ |
| INNO3D RTX 5090 D V2 | 24 ГБ | игровая | 728 000 ₽ |
| RTX PRO 4500 Server | 32 ГБ | серверная | 816 600 ₽ |
| NVIDIA L40S | 48 ГБ | серверная | 1 159 000 ₽ |
| RTX PRO 5000 Blackwell | 48 или 72 ГБ | профессиональная | от 1 339 000 ₽ |
| RTX PRO 6000 Blackwell | 96 ГБ | профессиональная | от 1 739 000 ₽ |
| NVIDIA H100 | 80 ГБ | серверная для обучения | 2 475 700 ₽ |
Цены в Grace Team обновлены 7 ноября 2026 года.
Одна большая карта или несколько маленьких
Модель можно разделить между несколькими картами, но это сложнее настроить и медленнее из-за обмена данными между ними. Если бюджет позволяет, одна карта с большим объёмом памяти удобнее. Для обучения больших моделей используют серверы с 8 картами, связанными NVLink, — например, на базе
NVIDIA HGX H200. Как подобрать такой сервер, мы рассказали в гиде
«Сервер для ИИ».
Альтернатива: компактный ИИ-компьютер
Если нужна большая память без сборки рабочей станции, посмотрите
NVIDIA DGX Spark со 128 ГБ общей памяти или
ASUS Ascent GX10. Они медленнее топовых видеокарт, но позволяют запускать крупные модели на столе. Ещё один вариант — Mac Studio с объединённой памятью до 512 ГБ: подробнее в статье
«Mac Studio для локальных нейросетей», а сравнение всех платформ — в статье
«Компьютер для локальных нейросетей».
Где купить видеокарту для нейросетей
Видеокарты NVIDIA для ИИ — в разделах
Компьютеры и
Серверное оборудование. Поможем подобрать карту под вашу модель и задачу и собрать рабочую станцию. Звоните
+7 (915) 006-34-31 или пишите в
Telegram.
Частые вопросы
Какая видеокарта нужна для нейросетей?
Зависит от размера модели. Для генерации изображений и моделей до 13–30 млрд параметров хватает 24–32 ГБ, для моделей на 70 млрд — 48–96 ГБ, для обучения крупных моделей — серверные H100 и H200.
Хватит ли RTX 5090 для локальной нейросети?
Для многих задач — да: генерация изображений, языковые модели до 30 млрд параметров в 4-битном формате. Для моделей на 70 млрд памяти уже не хватит.
Чем RTX PRO отличается от GeForce?
Больше видеопамяти с коррекцией ошибок, сертифицированные драйверы для профессионального ПО и охлаждение, рассчитанное на несколько карт в одной станции.
Сколько видеопамяти нужно для модели на 70 млрд параметров?
Около 140 ГБ в формате FP16 и около 40 ГБ в 4-битном квантовании плюс запас на контекст.