Apple Silicon M3 Max (128GB unified memory): o que roda localmente?

Se você buscou “Apple Silicon M3 Max (128GB unified memory) o que roda localmente”, aqui vai uma resposta prática com premissas transparentes.

Tabela de compatibilidade em Apple Silicon M3 Max (128GB unified memory)

Premissa base: contexto/batch padrão + Q4_K_M para cada modelo.

Modelo	Total estimado	Resultado	tok/s estimados	Quantização recomendada
Qwen 3.8 27B	20.91 GiB	Cabe	14.94	fp16
Qwen 3.8 Flash Next 125B	78.66 GiB	Cabe	67.25	q6_k
MiniMax H3 33B	22.45 GiB	Cabe	12.23	fp16
Qwen Image 2.1	5.38 GiB	Cabe	57.64	fp16
Kimi K3	1,823.65 GiB	Não cabe	3.88	Sem ajuste
GLM 5.3 (Flash)	215.7 GiB	Não cabe	22.42	Sem ajuste
DeepSeek V4.1 Flash	334.25 GiB	Não cabe	25.22	Sem ajuste
MiMo V2.6 Pro RL	625.89 GiB	Não cabe	9.61	Sem ajuste
Bonsai 2 27B	21.13 GiB	Cabe	14.75	fp16
Mistral 7B Instruct v0.3	5.83 GiB	Cabe	57.64	fp16

Apple Silicon M3 Max (128GB unified memory) roda 6 de 10 modelos no baseline Q4_K_M.

Para MoE e multimodal, reserve folga extra de memória.

Use a baseline Q4_K_M como primeira triagem. Para contexto longo e multimodal, reserve margem adicional de memória.

A tabela mostra o comportamento base em memória. Offload parcial pode permitir modelos maiores, normalmente com menor throughput.

Ela é tratada como alvo principal. O fit melhora com mais memória, mas a responsividade ainda depende da largura de banda e do runtime.

Fonte das especificações: Apple MacBook Pro specs (coletado 2026-10-06).