NVIDIA GeForce RTX 4080 SUPER 16GB: o que roda localmente?

Se você buscou “NVIDIA GeForce RTX 4080 SUPER 16GB o que roda localmente”, aqui vai uma resposta prática com premissas transparentes.

Tabela de compatibilidade em NVIDIA GeForce RTX 4080 SUPER 16GB

Premissa base: contexto/batch padrão + Q4_K_M para cada modelo.

Modelo	Total estimado	Resultado	tok/s estimados	Quantização recomendada
Qwen 3.8 27B	20.91 GiB	Não cabe	32.24	q2_k
Qwen 3.8 Flash Next 125B	78.66 GiB	Não cabe	145.07	Sem ajuste
MiniMax H3 33B	22.45 GiB	Não cabe	26.38	q2_k
Qwen Image 2.1	5.38 GiB	Cabe	124.34	fp16
Kimi K3	1,823.65 GiB	Não cabe	8.37	Sem ajuste
GLM 5.3 (Flash)	215.7 GiB	Não cabe	48.36	Sem ajuste
DeepSeek V4.1 Flash	334.25 GiB	Não cabe	54.4	Sem ajuste
MiMo V2.6 Pro RL	625.89 GiB	Não cabe	20.72	Sem ajuste
Bonsai 2 27B	21.13 GiB	Não cabe	31.81	q2_k
Mistral 7B Instruct v0.3	5.83 GiB	Cabe	124.34	fp16

NVIDIA GeForce RTX 4080 SUPER 16GB roda 2 de 10 modelos no baseline Q4_K_M.

Para MoE e multimodal, reserve folga extra de memória.

Use a baseline Q4_K_M como primeira triagem. Para contexto longo e multimodal, reserve margem adicional de memória.

A tabela mostra o comportamento base em memória. Offload parcial pode permitir modelos maiores, normalmente com menor throughput.

Ela é tratada como alvo principal. O fit melhora com mais memória, mas a responsividade ainda depende da largura de banda e do runtime.

Fonte das especificações: NVIDIA product page (coletado 2026-10-06).