LLMRAM

AMD Radeon RX 7900 XTX 24GB: что можно запустить локально?

Если вы искали «AMD Radeon RX 7900 XTX 24GB что можно запустить локально», эта страница даёт практичный ответ на прозрачных допущениях.

  • Тип памяти: Дискретная VRAM
  • Общая память: 24 GiB
  • Пропускная способность: 960 GB/s
  • Подсказка по планированию: Для MoE и мультимодальных моделей закладывайте дополнительный запас памяти.

Таблица совместимости на AMD Radeon RX 7900 XTX 24GB

База: дефолтные context/batch и Q4_K_M для каждой модели.

МодельОценка totalВердиктtok/s (оценка)Рекоменд. квантизация
Qwen 3.8 27B20.91 GiBПодходит42.05q5_k_m
Qwen 3.8 Flash Next 125B78.66 GiBНе подходит189.22Нет fit
MiniMax H3 33B22.45 GiBПодходит34.4q4_k_m
Qwen Image 2.15.38 GiBПодходит162.19fp16
Kimi K31,823.65 GiBНе подходит10.92Нет fit
GLM 5.3 (Flash)215.7 GiBНе подходит63.07Нет fit
DeepSeek V4.1 Flash334.25 GiBНе подходит70.96Нет fit
MiMo V2.6 Pro RL625.89 GiBНе подходит27.03Нет fit
Bonsai 2 27B21.13 GiBПодходит41.5q5_k_m
Mistral 7B Instruct v0.35.83 GiBПодходит162.19fp16

Быстрый ответ: что может AMD Radeon RX 7900 XTX 24GB?

AMD Radeon RX 7900 XTX 24GB запускает 5 из 10 моделей в базовом профиле Q4_K_M.

Для MoE и мультимодальных моделей закладывайте дополнительный запас памяти.

FAQ

Что можно запустить локально на AMD Radeon RX 7900 XTX 24GB?

Используйте таблицу Q4_K_M как первую оценку. Для длинного контекста и мультимодальности закладывайте дополнительный запас.

Учитываются ли сценарии CPU/RAM offload?

Таблица отражает базовую резидентность. Частичный offload позволяет загрузить более крупные модели, но обычно снижает скорость.

Как интерпретировать unified memory на Mac?

Unified memory учитывается как основной вариант. Fit может улучшаться, но отзывчивость всё равно ограничивается bandwidth и runtime.

Источник и проверка

Источник спецификаций железа: AMD product page (получено 2026-10-06).