LLMRAM

Apple Silicon M3 Max (128GB unified memory): что можно запустить локально?

Если вы искали «Apple Silicon M3 Max (128GB unified memory) что можно запустить локально», эта страница даёт практичный ответ на прозрачных допущениях.

  • Тип памяти: Unified memory
  • Общая память: 128 GiB
  • Пропускная способность: 400 GB/s
  • Подсказка по планированию: Для MoE и мультимодальных моделей закладывайте дополнительный запас памяти.

Таблица совместимости на Apple Silicon M3 Max (128GB unified memory)

База: дефолтные context/batch и Q4_K_M для каждой модели.

МодельОценка totalВердиктtok/s (оценка)Рекоменд. квантизация
Qwen 3.8 27B20.91 GiBПодходит14.94fp16
Qwen 3.8 Flash Next 125B78.66 GiBПодходит67.25q6_k
MiniMax H3 33B22.45 GiBПодходит12.23fp16
Qwen Image 2.15.38 GiBПодходит57.64fp16
Kimi K31,823.65 GiBНе подходит3.88Нет fit
GLM 5.3 (Flash)215.7 GiBНе подходит22.42Нет fit
DeepSeek V4.1 Flash334.25 GiBНе подходит25.22Нет fit
MiMo V2.6 Pro RL625.89 GiBНе подходит9.61Нет fit
Bonsai 2 27B21.13 GiBПодходит14.75fp16
Mistral 7B Instruct v0.35.83 GiBПодходит57.64fp16

Быстрый ответ: что может Apple Silicon M3 Max (128GB unified memory)?

Apple Silicon M3 Max (128GB unified memory) запускает 6 из 10 моделей в базовом профиле Q4_K_M.

Для MoE и мультимодальных моделей закладывайте дополнительный запас памяти.

FAQ

Что можно запустить локально на Apple Silicon M3 Max (128GB unified memory)?

Используйте таблицу Q4_K_M как первую оценку. Для длинного контекста и мультимодальности закладывайте дополнительный запас.

Учитываются ли сценарии CPU/RAM offload?

Таблица отражает базовую резидентность. Частичный offload позволяет загрузить более крупные модели, но обычно снижает скорость.

Как интерпретировать unified memory на Mac?

Unified memory учитывается как основной вариант. Fit может улучшаться, но отзывчивость всё равно ограничивается bandwidth и runtime.

Источник и проверка

Источник спецификаций железа: Apple MacBook Pro specs (получено 2026-10-06).