LLMRAM

Apple Silicon M2 Ultra (192GB unified memory): que peut-il exécuter en local ?

Si vous cherchez « Apple Silicon M2 Ultra (192GB unified memory) que peut-il exécuter en local », cette page fournit une réponse exploitable avec des hypothèses transparentes.

  • Type de mémoire: Mémoire unifiée
  • Mémoire totale: 192 GiB
  • Bande passante: 800 GB/s
  • Conseil de planification: Pour MoE et multimodal, gardez une marge mémoire supplémentaire.

Table de compatibilité sur Apple Silicon M2 Ultra (192GB unified memory)

Hypothèse : contexte/batch par défaut et Q4_K_M pour chaque modèle.

ModèleTotal estiméVerdicttok/s estimésQuantification recommandée
Qwen 3.8 27B20.91 GiBCompatible29.89fp16
Qwen 3.8 Flash Next 125B78.66 GiBCompatible134.49int8
MiniMax H3 33B22.45 GiBCompatible24.45fp16
Qwen Image 2.15.38 GiBCompatible115.28fp16
Kimi K31,823.65 GiBIncompatible7.76Aucun fit
GLM 5.3 (Flash)215.7 GiBIncompatible44.83q3_k_m
DeepSeek V4.1 Flash334.25 GiBIncompatible50.43q2_k
MiMo V2.6 Pro RL625.89 GiBIncompatible19.21Aucun fit
Bonsai 2 27B21.13 GiBCompatible29.49fp16
Mistral 7B Instruct v0.35.83 GiBCompatible115.28fp16

Réponse rapide : que peut exécuter Apple Silicon M2 Ultra (192GB unified memory)?

Apple Silicon M2 Ultra (192GB unified memory) peut exécuter 6 modèles sur 10 dans la baseline Q4_K_M.

Pour MoE et multimodal, gardez une marge mémoire supplémentaire.

FAQ

Que peut exécuter Apple Silicon M2 Ultra (192GB unified memory) en local ?

Utilisez la baseline Q4_K_M pour une première décision. Pour contexte long et multimodal, prévoyez une marge mémoire supplémentaire.

Les scénarios d’offload CPU/RAM sont-ils pris en compte ?

Le tableau reflète surtout la résidence mémoire de base. L’offload peut aider à charger plus gros, mais avec moins de débit.

Comment interpréter la mémoire unifiée Mac ?

Elle est traitée comme cible principale. Le fit peut être bon, mais la fluidité dépend toujours de la bande passante et du runtime.

Source et vérification

Source des spécifications matérielles : Apple Mac Studio specs (récupéré 2026-10-06).