LLMRAM

Apple Silicon M2 Ultra (192GB unified memory): ¿qué puede ejecutar en local?

Si buscas “Apple Silicon M2 Ultra (192GB unified memory) qué puede ejecutar en local”, aquí tienes una respuesta práctica con supuestos transparentes.

  • Tipo de memoria: Memoria unificada
  • Memoria total: 192 GiB
  • Ancho de banda: 800 GB/s
  • Consejo de planificación: Para MoE y multimodal, reserva margen adicional.

Tabla de ajuste en Apple Silicon M2 Ultra (192GB unified memory)

Supuesto base: contexto/batch por defecto y Q4_K_M en cada modelo.

ModeloTotal estimadoVeredictotok/s estimadosCuantización recomendada
Qwen 3.8 27B20.91 GiBCompatible29.89fp16
Qwen 3.8 Flash Next 125B78.66 GiBCompatible134.49int8
MiniMax H3 33B22.45 GiBCompatible24.45fp16
Qwen Image 2.15.38 GiBCompatible115.28fp16
Kimi K31,823.65 GiBNo compatible7.76Sin ajuste
GLM 5.3 (Flash)215.7 GiBNo compatible44.83q3_k_m
DeepSeek V4.1 Flash334.25 GiBNo compatible50.43q2_k
MiMo V2.6 Pro RL625.89 GiBNo compatible19.21Sin ajuste
Bonsai 2 27B21.13 GiBCompatible29.49fp16
Mistral 7B Instruct v0.35.83 GiBCompatible115.28fp16

Respuesta rápida: qué puede ejecutar Apple Silicon M2 Ultra (192GB unified memory)?

Apple Silicon M2 Ultra (192GB unified memory) puede ejecutar 6 de 10 modelos en la baseline Q4_K_M.

Para MoE y multimodal, reserva margen adicional.

Preguntas frecuentes

¿Qué puede ejecutar Apple Silicon M2 Ultra (192GB unified memory) en local?

Usa la baseline Q4_K_M como primera referencia. Para contexto largo o multimodal, deja margen extra de memoria.

¿Incluye opciones de offload CPU/RAM?

La tabla refleja el comportamiento base en memoria. El offload parcial puede cargar modelos más grandes, normalmente con menor rendimiento.

¿Cómo interpretar la memoria unificada de Mac?

Se trata como objetivo principal. El ajuste mejora con más memoria, pero la respuesta sigue dependiendo del ancho de banda y del runtime.

Fuente y verificación

Fuente de especificaciones: Apple Mac Studio specs (obtenido 2026-10-06).