LLMRAM

NVIDIA GeForce RTX 4080 SUPER 16GB: que peut-il exécuter en local ?

Si vous cherchez « NVIDIA GeForce RTX 4080 SUPER 16GB que peut-il exécuter en local », cette page fournit une réponse exploitable avec des hypothèses transparentes.

  • Type de mémoire: VRAM dédiée
  • Mémoire totale: 16 GiB
  • Bande passante: 736 GB/s
  • Conseil de planification: Pour MoE et multimodal, gardez une marge mémoire supplémentaire.

Table de compatibilité sur NVIDIA GeForce RTX 4080 SUPER 16GB

Hypothèse : contexte/batch par défaut et Q4_K_M pour chaque modèle.

ModèleTotal estiméVerdicttok/s estimésQuantification recommandée
Qwen 3.8 27B20.91 GiBIncompatible32.24q2_k
Qwen 3.8 Flash Next 125B78.66 GiBIncompatible145.07Aucun fit
MiniMax H3 33B22.45 GiBIncompatible26.38q2_k
Qwen Image 2.15.38 GiBCompatible124.34fp16
Kimi K31,823.65 GiBIncompatible8.37Aucun fit
GLM 5.3 (Flash)215.7 GiBIncompatible48.36Aucun fit
DeepSeek V4.1 Flash334.25 GiBIncompatible54.4Aucun fit
MiMo V2.6 Pro RL625.89 GiBIncompatible20.72Aucun fit
Bonsai 2 27B21.13 GiBIncompatible31.81q2_k
Mistral 7B Instruct v0.35.83 GiBCompatible124.34fp16

Réponse rapide : que peut exécuter NVIDIA GeForce RTX 4080 SUPER 16GB?

NVIDIA GeForce RTX 4080 SUPER 16GB peut exécuter 2 modèles sur 10 dans la baseline Q4_K_M.

Pour MoE et multimodal, gardez une marge mémoire supplémentaire.

FAQ

Que peut exécuter NVIDIA GeForce RTX 4080 SUPER 16GB en local ?

Utilisez la baseline Q4_K_M pour une première décision. Pour contexte long et multimodal, prévoyez une marge mémoire supplémentaire.

Les scénarios d’offload CPU/RAM sont-ils pris en compte ?

Le tableau reflète surtout la résidence mémoire de base. L’offload peut aider à charger plus gros, mais avec moins de débit.

Comment interpréter la mémoire unifiée Mac ?

Elle est traitée comme cible principale. Le fit peut être bon, mais la fluidité dépend toujours de la bande passante et du runtime.

Source et vérification

Source des spécifications matérielles : NVIDIA product page (récupéré 2026-10-06).