Apple Silicon M2 Ultra (192GB unified memory): что можно запустить локально?
Если вы искали «Apple Silicon M2 Ultra (192GB unified memory) что можно запустить локально», эта страница даёт практичный ответ на прозрачных допущениях.
- Тип памяти: Unified memory
- Общая память: 192 GiB
- Пропускная способность: 800 GB/s
- Подсказка по планированию: Для MoE и мультимодальных моделей закладывайте дополнительный запас памяти.
Таблица совместимости на Apple Silicon M2 Ultra (192GB unified memory)
База: дефолтные context/batch и Q4_K_M для каждой модели.
| Модель | Оценка total | Вердикт | tok/s (оценка) | Рекоменд. квантизация |
|---|---|---|---|---|
| Qwen 3.8 27B | 20.91 GiB | Подходит | 29.89 | fp16 |
| Qwen 3.8 Flash Next 125B | 78.66 GiB | Подходит | 134.49 | int8 |
| MiniMax H3 33B | 22.45 GiB | Подходит | 24.45 | fp16 |
| Qwen Image 2.1 | 5.38 GiB | Подходит | 115.28 | fp16 |
| Kimi K3 | 1,823.65 GiB | Не подходит | 7.76 | Нет fit |
| GLM 5.3 (Flash) | 215.7 GiB | Не подходит | 44.83 | q3_k_m |
| DeepSeek V4.1 Flash | 334.25 GiB | Не подходит | 50.43 | q2_k |
| MiMo V2.6 Pro RL | 625.89 GiB | Не подходит | 19.21 | Нет fit |
| Bonsai 2 27B | 21.13 GiB | Подходит | 29.49 | fp16 |
| Mistral 7B Instruct v0.3 | 5.83 GiB | Подходит | 115.28 | fp16 |
Быстрый ответ: что может Apple Silicon M2 Ultra (192GB unified memory)?
Apple Silicon M2 Ultra (192GB unified memory) запускает 6 из 10 моделей в базовом профиле Q4_K_M.
Для MoE и мультимодальных моделей закладывайте дополнительный запас памяти.
FAQ
Что можно запустить локально на Apple Silicon M2 Ultra (192GB unified memory)?
Используйте таблицу Q4_K_M как первую оценку. Для длинного контекста и мультимодальности закладывайте дополнительный запас.
Учитываются ли сценарии CPU/RAM offload?
Таблица отражает базовую резидентность. Частичный offload позволяет загрузить более крупные модели, но обычно снижает скорость.
Как интерпретировать unified memory на Mac?
Unified memory учитывается как основной вариант. Fit может улучшаться, но отзывчивость всё равно ограничивается bandwidth и runtime.
Источник и проверка
Источник спецификаций железа: Apple Mac Studio specs (получено 2026-10-06).