2× NVIDIA GeForce RTX 4090 (aggregate): que peut-il exécuter en local ?
Si vous cherchez « 2× NVIDIA GeForce RTX 4090 (aggregate) que peut-il exécuter en local », cette page fournit une réponse exploitable avec des hypothèses transparentes.
- Type de mémoire: VRAM dédiée
- Mémoire totale: 48 GiB
- Bande passante: 1,814 GB/s
- Conseil de planification: Pour MoE et multimodal, gardez une marge mémoire supplémentaire.
Table de compatibilité sur 2× NVIDIA GeForce RTX 4090 (aggregate)
Hypothèse : contexte/batch par défaut et Q4_K_M pour chaque modèle.
| Modèle | Total estimé | Verdict | tok/s estimés | Quantification recommandée |
|---|---|---|---|---|
| Qwen 3.8 27B | 20.91 GiB | Compatible | 79.45 | int8 |
| Qwen 3.8 Flash Next 125B | 78.66 GiB | Incompatible | 357.54 | q2_k |
| MiniMax H3 33B | 22.45 GiB | Compatible | 65.01 | int8 |
| Qwen Image 2.1 | 5.38 GiB | Compatible | 306.46 | fp16 |
| Kimi K3 | 1,823.65 GiB | Incompatible | 20.63 | Aucun fit |
| GLM 5.3 (Flash) | 215.7 GiB | Incompatible | 119.18 | Aucun fit |
| DeepSeek V4.1 Flash | 334.25 GiB | Incompatible | 134.08 | Aucun fit |
| MiMo V2.6 Pro RL | 625.89 GiB | Incompatible | 51.08 | Aucun fit |
| Bonsai 2 27B | 21.13 GiB | Compatible | 78.41 | int8 |
| Mistral 7B Instruct v0.3 | 5.83 GiB | Compatible | 306.46 | fp16 |
Réponse rapide : que peut exécuter 2× NVIDIA GeForce RTX 4090 (aggregate)?
2× NVIDIA GeForce RTX 4090 (aggregate) peut exécuter 5 modèles sur 10 dans la baseline Q4_K_M.
Pour MoE et multimodal, gardez une marge mémoire supplémentaire.
FAQ
Que peut exécuter 2× NVIDIA GeForce RTX 4090 (aggregate) en local ?
Utilisez la baseline Q4_K_M pour une première décision. Pour contexte long et multimodal, prévoyez une marge mémoire supplémentaire.
Les scénarios d’offload CPU/RAM sont-ils pris en compte ?
Le tableau reflète surtout la résidence mémoire de base. L’offload peut aider à charger plus gros, mais avec moins de débit.
Comment interpréter la mémoire unifiée Mac ?
Elle est traitée comme cible principale. Le fit peut être bon, mais la fluidité dépend toujours de la bande passante et du runtime.
Source et vérification
Source des spécifications matérielles : Derived from two RTX 4090 cards (aggregate estimate) (récupéré 2026-10-06).