Hermes Agent: требования к железу, локальное подключение и планирование контекста

Ollama

curl -fsSL https://ollama.com/install.sh | sh
ollama pull gemma4:31b
hermes setup
# provider: Custom Endpoint
# base URL: http://localhost:11434/v1

Источник: Гайд Hermes по локальному Ollama

Ollama

cat > ~/.hermes/cache/scratch/Modelfile << 'EOF'
FROM gemma4:31b
PARAMETER num_ctx 64000
EOF
ollama create gemma4-64k -f ~/.hermes/cache/scratch/Modelfile

Из раздела context-window в гайде Hermes Ollama.

Источник: Гайд Hermes по локальному Ollama

vLLM

model:
  default: your-model-name
  provider: custom
  base_url: http://localhost:8000/v1
  api_key: your-key-or-leave-empty-for-local

Документация Hermes описывает self-hosted endpoints, включая vLLM, через поток Custom Endpoint.

Источник: Документация по интеграциям провайдеров Hermes

LM Studio

model:
  default: your-model-name
  provider: custom
  base_url: http://localhost:1234/v1
  api_key: your-key-or-leave-empty-for-local

На странице providers Hermes перечислены шаблоны конфигурации для LM Studio и custom endpoint.

Источник: Документация по интеграциям провайдеров Hermes

llama.cpp

No explicit llama.cpp provider setup snippet appears in the provided Hermes source links.

В предоставленных официальных ссылках Hermes нет явного snippet для llama.cpp provider; поэтому пробел отмечен явно без выдуманных команд.

Источник: Документация по интеграциям провайдеров Hermes

Можно ли запускать Hermes полностью локально без API key?

Да. В гайде Hermes Ollama описан локальный-only путь на Ollama и прямо сказано, что API key для него не нужен.

Почему для агентных фреймворков важны длинный контекст и tool-calling?

Hermes документирует, что его tool-workflows требуют большого контекста; модели без tool-calling в Hermes ограничены режимом чата.

Hermes привязан к одному provider?

Нет. В docs providers описаны облачные и self-hosted маршруты, а переключение выполняется через конфигурацию provider/model.