Поиск
Избранное
Корзина
0
0
Способы оплаты
пн-вс 10:00-20:00
0
Поиск
Избранное
Корзина
0
Блог Grace Team
Гайды по выбору Обзоры техники

Mac Studio для локальных нейросетей: сколько памяти нужно

17.09.2026
Коротко: чтобы запустить языковую модель на Mac, она должна целиком поместиться в объединённую память вместе с контекстом и системой. Ориентир для моделей с 4-битным квантованием — около 0,6 ГБ на миллиард параметров. На практике: 64 ГБ — модели до ~70 млрд параметров, 128 ГБ — gpt-oss-120b и модели около 100–150 млрд, 256 ГБ — до ~300 млрд, 512 ГБ — крупнейшие открытые модели вроде DeepSeek R1 на 671 млрд. Ниже объясняем, как считать память самостоятельно, от чего зависит скорость и какую конфигурацию Mac Studio выбрать.

Почему для нейросетей важен именно Mac

У обычного ПК есть оперативная память и отдельная видеопамять на видеокарте. Нейросети работают на видеокарте, поэтому размер модели ограничен её видеопамятью — у потребительских карт это обычно 16–32 ГБ. У Mac на Apple Silicon память объединённая: процессор и графика пользуются одним пулом. Поэтому Mac Studio с 256 или 512 ГБ может запускать модели, для которых на ПК понадобилась бы стойка из нескольких профессиональных видеокарт. По данным Apple, Mac Studio на M3 Ultra с 512 ГБ может держать в памяти модели с более чем 600 млрд параметров.

Из чего складывается потребление памяти

1. Веса модели

Основная часть — сами параметры модели. Их объём зависит от точности, с которой они хранятся (квантования):
ТочностьНа 1 млрд параметровМодель на 70 млрд
16 бит (FP16 / BF16)≈ 2 ГБ≈ 140 ГБ
8 бит≈ 1 ГБ≈ 70 ГБ
4 бита≈ 0,5–0,6 ГБ≈ 35–42 ГБ
Для локального запуска чаще всего используют 4-битные версии: они занимают вчетверо меньше места, чем исходные, а качество ответов снижается незначительно. Если важна максимальная точность, например для кода или анализа документов, берите 8 бит — и закладывайте вдвое больше памяти.

2. Контекст

Во время работы модель хранит в памяти «кэш» обрабатываемого текста — так называемый KV-кэш. Чем длиннее контекст (переписка, загруженный документ, код), тем больше он занимает. Для коротких диалогов это несколько гигабайт, а при контексте в сотни тысяч токенов — десятки гигабайт. Если планируете работать с длинными документами, добавьте к весам модели 10–30% запаса.

3. Система и другие программы

macOS, браузер и рабочие приложения тоже занимают память. Кроме того, по умолчанию система отдаёт графике не всю объединённую память: например, на Mac с 64 ГБ графике доступно около 75%, то есть порядка 48 ГБ. Этот лимит можно поднять (см. ниже), но 8–16 ГБ лучше оставить системе.

Формула для быстрого расчёта

Нужная память ≈ параметры (млрд) × байт на параметр + 10–30% на контекст + 8–16 ГБ на систему.

Пример: модель на 70 млрд параметров в 4 битах — около 40 ГБ весов, плюс 5–10 ГБ на контекст, плюс система. Получается, что 64 ГБ — минимум для такой модели, а комфортно она работает на 96–128 ГБ.

Что помещается в разные объёмы памяти

ПамятьЧто реально запустить (4 бита)Для каких задач
36–48 ГБМодели до ~30 млрд параметров, gpt-oss-20b (около 12 ГБ)Личный ассистент, переводы, черновики текстов
64 ГБМодели до ~70 млрд параметров с коротким контекстомПомощник программиста, работа с документами
128 ГБgpt-oss-120b (около 65 ГБ), модели на 70 млрд с длинным контекстом или в 8 битах, до ~120–150 млрдСерьёзная аналитика, несколько моделей сразу
256 ГБМодели до ~300 млрд параметровКорпоративные ассистенты, ИИ-агенты, исследования
512 ГБМодели с 600+ млрд параметров, например DeepSeek R1 на 671 млрдРабота с крупнейшими открытыми моделями без облака
Оценки приблизительные: точные цифры зависят от архитектуры модели, способа квантования и длины контекста.
Реальный пример: обозреватель Dave Lee (Dave2D) запустил на Mac Studio с M3 Ultra и 512 ГБ полную модель DeepSeek R1 на 671 млрд параметров в 4-битной версии. Файл модели занимал 404 ГБ, для работы пришлось вручную выделить графике 448 ГБ, а скорость генерации составила около 17–18 токенов в секунду при потреблении меньше 200 Вт.

От чего зависит скорость

Память определяет, поместится ли модель, а скорость генерации текста зависит в первую очередь от пропускной способности памяти: для каждого нового токена аппарат заново читает веса модели. Грубая оценка: чем больше модель и чем ниже пропускная способность, тем медленнее ответ.
Чип Mac StudioПропускная способностьМаксимум памяти
M4 Max (14 / 16 ядер)410 / 546 ГБ/с128 ГБ
M5 Maxдо 614 ГБ/с128 ГБ
M3 Ultra819 ГБ/с512 ГБ (у Apple сейчас до 256 ГБ)
M5 Ultraдо 1,2 ТБ/с512 ГБ
Два важных нюанса. Во-первых, модели с архитектурой «смесь экспертов» (MoE), такие как DeepSeek R1 и gpt-oss, на каждом шаге задействуют лишь часть параметров, поэтому работают заметно быстрее, чем «плотные» модели того же размера. Во-вторых, есть ещё скорость обработки запроса — то, как быстро модель «прочитает» длинный документ перед ответом. Она зависит от вычислительной мощности графики, и именно здесь новые чипы M5 с нейронными ускорителями в графических ядрах дают самый большой прирост: по данным Apple, до 4 раз по сравнению с M3 Ultra.

Как увеличить лимит памяти для графики

Если модель чуть-чуть не помещается, лимит памяти для графики можно поднять командой в Терминале. Например, на Mac с 64 ГБ можно отдать графике около 56 ГБ:
sudo sysctl iogpu.wired_limit_mb=57344
Значение указывается в мегабайтах (56 ГБ × 1024 = 57 344 МБ). Настройка сбрасывается после перезагрузки, а вернуть стандартный лимит можно командой sudo sysctl iogpu.wired_limit_mb=0. Не отдавайте графике всю память: системе нужен запас, иначе Mac начнёт тормозить.

Какие программы использовать

  • LM Studio — самый простой старт: графический интерфейс, каталог моделей с подсказкой, поместится ли модель в вашу память, и поддержка MLX.
  • Ollama — запуск моделей одной командой и локальный API для подключения к другим приложениям.
  • MLX — фреймворк Apple для машинного обучения на Apple Silicon: даёт хорошую скорость и подходит для дообучения.
  • llama.cpp — движок, на котором построены многие программы; поддерживает формат GGUF и тонкую настройку.

Какую конфигурацию Mac Studio выбрать

  • Хотите попробовать локальный ИИ и использовать его как ассистента — M4 Max с 64 ГБ: хватит для моделей до ~70 млрд параметров.
  • Нужны модели уровня gpt-oss-120b, длинный контекст или несколько моделей одновременно — 128 ГБ.
  • Корпоративный ассистент, ИИ-агенты, крупные модели до ~300 млрд — M3 Ultra с 256 ГБ.
  • Крупнейшие открытые модели вроде DeepSeek R1 на 671 млрд — M3 Ultra или M5 Ultra с 512 ГБ.
Главное правило: память в Mac Studio встроена в чип и не расширяется. Выбирайте объём с запасом — модели с каждым поколением становятся крупнее.

Mac Studio и альтернативы в Grace Team

  • Mac Studio M4 Max, 64 ГБ / 1 ТБ — для старта с локальными моделями.
  • Mac Studio M3 Ultra, 256 ГБ / 2 ТБ — для крупных моделей и ИИ-агентов.
  • Mac Studio M3 Ultra, 512 ГБ / 1 ТБ — конфигурация, которую Apple перестала выпускать в марте 2026 года: для моделей с 600+ млрд параметров.
  • ASUS Ascent GX10 — альтернатива на NVIDIA GB10 с объединённой памятью до 128 ГБ и системой NVIDIA DGX OS. Подойдёт, если ваши инструменты завязаны на экосистему CUDA.
Mac Studio на M5 Max и M5 Ultra Apple представила в августе 2026 года; о сроках поставки любой конфигурации спросите менеджера. Подробное сравнение M3 Ultra и M4 Max для видео, 3D и ИИ — в нашей статье «Mac Studio M3 Ultra или M4 Max: что выбрать для видео, 3D и ИИ», а сравнение Mac с компьютерами на NVIDIA GB10 и AMD Ryzen AI Max+ — в статье «Компьютер для локальных нейросетей».

Где купить

Grace Team — интернет-магазин техники с доставкой по Москве и всей России; работаем с физическими и юридическими лицами, выставляем счета для компаний. Все модели — в каталоге. Условия — на странице Доставка, консультация — по телефону +7 (915) 006-34-31 или в Telegram.

Частые вопросы

Сколько памяти нужно, чтобы запустить нейросеть на Mac?

Для модели с 4-битным квантованием — около 0,6 ГБ на миллиард параметров плюс 10–30% на контекст и 8–16 ГБ на систему. Модель на 70 млрд параметров требует минимум 64 ГБ, а комфортно работает на 96–128 ГБ.

Можно ли запустить DeepSeek R1 на Mac Studio?

Да. Полную модель на 671 млрд параметров в 4-битной версии запускали на Mac Studio M3 Ultra с 512 ГБ: она заняла 448 ГБ памяти и выдавала около 17–18 токенов в секунду. Облегчённые дистиллированные версии DeepSeek R1 работают и на конфигурациях с меньшей памятью.

Что важнее для нейросетей: память или процессор?

Сначала память: если модель не помещается, она не запустится. Дальше скорость генерации зависит от пропускной способности памяти, а скорость обработки длинных запросов — от мощности графики.

Сколько памяти доступно графике по умолчанию?

Не вся: например, на Mac с 64 ГБ — около 75%, то есть порядка 48 ГБ. Лимит можно поднять командой sudo sysctl iogpu.wired_limit_mb, оставив системе запас.

Можно ли докупить память позже?

Нет. Объединённая память встроена в чип Mac Studio, поэтому объём выбирают при покупке и с запасом.

Источники

  1. Apple Newsroom. Apple unveils new Mac Studio, the most powerful Mac ever, 05.03.2025. apple.com
  2. Apple. Mac Studio (2025) — технические характеристики. support.apple.com
  3. MacRumors. Mac Studio With M3 Ultra Runs Massive DeepSeek R1 AI Model Locally, 17.03.2025. macrumors.com
  4. LM Studio. gpt-oss: размеры моделей и требования к памяти. lmstudio.ai
  5. Hardware Corner. How to Increase the VRAM of Your Mac with Apple Silicon for LLMs. hardware-corner.net
  6. MacRumors. Mac Studio 512GB RAM Option Disappears Amid Global DRAM Shortage, 05.03.2026. macrumors.com
  7. 9to5Mac. Apple unveils next-generation Mac Studio with M5 Max and M5 Ultra, 25.08.2026. 9to5mac.com
  8. ASUS. Ascent GX10 — технические характеристики. asus.com
Читайте также