Apple Silicon M2 Ultra (192GB unified memory): ローカルAIで何が動く？
“Apple Silicon M2 Ultra (192GB unified memory) で何が動くか” を調べている方向けに、現実的な判断材料を示します。既定Q4_K_Mで主要モデルを比較し、適合可否を素早く把握できます。
- メモリ種別: 統合メモリ
- 総メモリ: 192 GiB
- 帯域幅: 800 GB/s
- 計画のヒント: MoE/マルチモーダルはランタイム差が大きいため、余裕を持った見積りを推奨します。
Apple Silicon M2 Ultra (192GB unified memory) ローカルAIで何が動く？
前提: 各モデルは既定 context/batch + Q4_K_M。詳細チューニングはモデルページで確認してください。
| モデル | 推定合計 | 判定 | tok/s概算 | 推奨量子化 |
|---|---|---|---|---|
| Qwen 3.8 27B | 20.91 GiB | 実行可能 | 29.89 | fp16 |
| Qwen 3.8 Flash Next 125B | 78.66 GiB | 実行可能 | 134.49 | int8 |
| MiniMax H3 33B | 22.45 GiB | 実行可能 | 24.45 | fp16 |
| Qwen Image 2.1 | 5.38 GiB | 実行可能 | 115.28 | fp16 |
| Kimi K3 | 1,823.65 GiB | 実行不可 | 7.76 | 適合なし |
| GLM 5.3 (Flash) | 215.7 GiB | 実行不可 | 44.83 | q3_k_m |
| DeepSeek V4.1 Flash | 334.25 GiB | 実行不可 | 50.43 | q2_k |
| MiMo V2.6 Pro RL | 625.89 GiB | 実行不可 | 19.21 | 適合なし |
| Bonsai 2 27B | 21.13 GiB | 実行可能 | 29.49 | fp16 |
| Mistral 7B Instruct v0.3 | 5.83 GiB | 実行可能 | 115.28 | fp16 |
結論: Apple Silicon M2 Ultra (192GB unified memory)?
Apple Silicon M2 Ultra (192GB unified memory) は既定Q4_K_Mで 10件中 6件を実行可能です。非適合モデルには低ビット候補を提示します。
MoE/マルチモーダルはランタイム差が大きいため、余裕を持った見積りを推奨します。
よくある質問
Apple Silicon M2 Ultra (192GB unified memory) でローカル実行できるモデルは？
まずQ4_K_Mの基準表で適合可否を確認し、長文脈やマルチモーダル用途では追加余裕を見込んでください。
CPU/RAMオフロードは反映されていますか？
表は基本的に常駐前提です。CPU/RAMオフロードで読み込める範囲は広がりますが、速度低下が起きやすいです。
Mac統合メモリはどう評価すべきですか？
統合メモリは一次対象として扱っていますが、体感速度は帯域幅と実装品質にも左右されます。
ソースと検証
ハードウェア仕様ソース: Apple Mac Studio specs (取得日 2026-10-06).