LLMRAM

Apple Silicon M2 Ultra (192GB unified memory): o que roda localmente?

Se você buscou “Apple Silicon M2 Ultra (192GB unified memory) o que roda localmente”, aqui vai uma resposta prática com premissas transparentes.

  • Tipo de memória: Memória unificada
  • Memória total: 192 GiB
  • Largura de banda: 800 GB/s
  • Dica de planejamento: Para MoE e multimodal, reserve folga extra de memória.

Tabela de compatibilidade em Apple Silicon M2 Ultra (192GB unified memory)

Premissa base: contexto/batch padrão + Q4_K_M para cada modelo.

ModeloTotal estimadoResultadotok/s estimadosQuantização recomendada
Qwen 3.8 27B20.91 GiBCabe29.89fp16
Qwen 3.8 Flash Next 125B78.66 GiBCabe134.49int8
MiniMax H3 33B22.45 GiBCabe24.45fp16
Qwen Image 2.15.38 GiBCabe115.28fp16
Kimi K31,823.65 GiBNão cabe7.76Sem ajuste
GLM 5.3 (Flash)215.7 GiBNão cabe44.83q3_k_m
DeepSeek V4.1 Flash334.25 GiBNão cabe50.43q2_k
MiMo V2.6 Pro RL625.89 GiBNão cabe19.21Sem ajuste
Bonsai 2 27B21.13 GiBCabe29.49fp16
Mistral 7B Instruct v0.35.83 GiBCabe115.28fp16

Resposta rápida: o que Apple Silicon M2 Ultra (192GB unified memory)?

Apple Silicon M2 Ultra (192GB unified memory) roda 6 de 10 modelos no baseline Q4_K_M.

Para MoE e multimodal, reserve folga extra de memória.

FAQ

O que o Apple Silicon M2 Ultra (192GB unified memory) consegue rodar localmente?

Use a baseline Q4_K_M como primeira triagem. Para contexto longo e multimodal, reserve margem adicional de memória.

Inclui cenários de offload CPU/RAM?

A tabela mostra o comportamento base em memória. Offload parcial pode permitir modelos maiores, normalmente com menor throughput.

Como interpretar memória unificada no Mac?

Ela é tratada como alvo principal. O fit melhora com mais memória, mas a responsividade ainda depende da largura de banda e do runtime.

Fonte e verificação

Fonte das especificações: Apple Mac Studio specs (coletado 2026-10-06).