LLMRAM

AMD Radeon RX 7900 XTX 24GB: was läuft lokal?

Wenn Sie nach „AMD Radeon RX 7900 XTX 24GB was kann es lokal ausführen“ suchen, finden Sie hier eine praktische Einschätzung auf Basis transparenter Annahmen.

  • Speichertyp: Dedizierter VRAM
  • Gesamtspeicher: 24 GiB
  • Bandbreite: 960 GB/s
  • Planungshinweis: Bei MoE/Multimodal bitte zusätzliche Sicherheitsreserve einplanen.

Modell-Fit-Tabelle auf AMD Radeon RX 7900 XTX 24GB

Annahme: Standard-Kontext/Batch und Q4_K_M für jedes Modell.

ModellGeschätzte GesamtsummeUrteiltok/s (grob)Empf. Quantisierung
Qwen 3.8 27B20.91 GiBPasst42.05q5_k_m
Qwen 3.8 Flash Next 125B78.66 GiBPasst nicht189.22Kein Fit
MiniMax H3 33B22.45 GiBPasst34.4q4_k_m
Qwen Image 2.15.38 GiBPasst162.19fp16
Kimi K31,823.65 GiBPasst nicht10.92Kein Fit
GLM 5.3 (Flash)215.7 GiBPasst nicht63.07Kein Fit
DeepSeek V4.1 Flash334.25 GiBPasst nicht70.96Kein Fit
MiMo V2.6 Pro RL625.89 GiBPasst nicht27.03Kein Fit
Bonsai 2 27B21.13 GiBPasst41.5q5_k_m
Mistral 7B Instruct v0.35.83 GiBPasst162.19fp16

Kurzantwort: Was kann AMD Radeon RX 7900 XTX 24GB?

AMD Radeon RX 7900 XTX 24GB kann im Basisprofil 5 von 10 Modellen ausführen.

Bei MoE/Multimodal bitte zusätzliche Sicherheitsreserve einplanen.

FAQ

Was kann AMD Radeon RX 7900 XTX 24GB lokal ausführen?

Nutzen Sie die Q4_K_M-Baseline als erste Einschätzung. Für lange Kontexte oder multimodale Pipelines sollte zusätzlicher Puffer eingeplant werden.

Sind CPU/RAM-Offload-Szenarien enthalten?

Die Tabelle zeigt den Baseline-Fit. Mit partiellem Offload lassen sich größere Modelle laden, meist mit weniger Durchsatz.

Wie ist Unified Memory auf Macs zu bewerten?

Unified Memory wird als gleichwertiges Ziel modelliert. Die Reaktionsgeschwindigkeit hängt trotzdem stark von Bandbreite und Runtime ab.

Quelle und Verifikation

Hardware-Spezifikation: AMD product page (abgerufen 2026-10-06).