LLMRAM

NVIDIA GeForce RTX 4070 Ti SUPER 16GB: o que roda localmente?

Se você buscou “NVIDIA GeForce RTX 4070 Ti SUPER 16GB o que roda localmente”, aqui vai uma resposta prática com premissas transparentes.

  • Tipo de memória: VRAM dedicada
  • Memória total: 16 GiB
  • Largura de banda: 672 GB/s
  • Dica de planejamento: Para MoE e multimodal, reserve folga extra de memória.

Tabela de compatibilidade em NVIDIA GeForce RTX 4070 Ti SUPER 16GB

Premissa base: contexto/batch padrão + Q4_K_M para cada modelo.

ModeloTotal estimadoResultadotok/s estimadosQuantização recomendada
Qwen 3.8 27B20.91 GiBNão cabe29.43q2_k
Qwen 3.8 Flash Next 125B78.66 GiBNão cabe132.45Sem ajuste
MiniMax H3 33B22.45 GiBNão cabe24.08q2_k
Qwen Image 2.15.38 GiBCabe113.53fp16
Kimi K31,823.65 GiBNão cabe7.64Sem ajuste
GLM 5.3 (Flash)215.7 GiBNão cabe44.15Sem ajuste
DeepSeek V4.1 Flash334.25 GiBNão cabe49.67Sem ajuste
MiMo V2.6 Pro RL625.89 GiBNão cabe18.92Sem ajuste
Bonsai 2 27B21.13 GiBNão cabe29.05q2_k
Mistral 7B Instruct v0.35.83 GiBCabe113.53fp16

Resposta rápida: o que NVIDIA GeForce RTX 4070 Ti SUPER 16GB?

NVIDIA GeForce RTX 4070 Ti SUPER 16GB roda 2 de 10 modelos no baseline Q4_K_M.

Para MoE e multimodal, reserve folga extra de memória.

FAQ

O que o NVIDIA GeForce RTX 4070 Ti SUPER 16GB consegue rodar localmente?

Use a baseline Q4_K_M como primeira triagem. Para contexto longo e multimodal, reserve margem adicional de memória.

Inclui cenários de offload CPU/RAM?

A tabela mostra o comportamento base em memória. Offload parcial pode permitir modelos maiores, normalmente com menor throughput.

Como interpretar memória unificada no Mac?

Ela é tratada como alvo principal. O fit melhora com mais memória, mas a responsividade ainda depende da largura de banda e do runtime.

Fonte e verificação

Fonte das especificações: NVIDIA product page (coletado 2026-10-06).