Hermes Agent: 硬件要求、本地模型接入与上下文规划

Ollama

curl -fsSL https://ollama.com/install.sh | sh
ollama pull gemma4:31b
hermes setup
# provider: Custom Endpoint
# base URL: http://localhost:11434/v1

来源: Hermes 本地 Ollama 配置指南

Ollama

cat > ~/.hermes/cache/scratch/Modelfile << 'EOF'
FROM gemma4:31b
PARAMETER num_ctx 64000
EOF
ollama create gemma4-64k -f ~/.hermes/cache/scratch/Modelfile

来自 Hermes Ollama 指南中的 context window 小节。

来源: Hermes 本地 Ollama 配置指南

vLLM

model:
  default: your-model-name
  provider: custom
  base_url: http://localhost:8000/v1
  api_key: your-key-or-leave-empty-for-local

Hermes 文档通过 Custom Endpoint 流程描述了包含 vLLM 在内的自托管端点接入。

来源: Hermes 提供商集成文档

LM Studio

model:
  default: your-model-name
  provider: custom
  base_url: http://localhost:1234/v1
  api_key: your-key-or-leave-empty-for-local

Hermes providers 页面列出了 LM Studio 与 custom endpoint 的配置模式。

来源: Hermes 提供商集成文档

llama.cpp

No explicit llama.cpp provider setup snippet appears in the provided Hermes source links.

在你提供的 Hermes 官方链接中未看到显式的 llama.cpp provider 配置示例，因此这里明确标注为空缺而不杜撰命令。

来源: Hermes 提供商集成文档

Hermes 可以在不填 API key 的情况下全本地运行吗？

可以。Hermes Ollama 指南提供了纯本地后端路径，并明确该路径无需 API key。

为什么长上下文与工具调用能力对代理框架很关键？

Hermes 文档说明其代理工具工作流需要更大的上下文窗口；不支持工具调用的模型在 Hermes 中仅能用于聊天。

Hermes 是否强制绑定某一个 provider？

不会。Hermes provider 文档描述了云端与自托管两类路线，可通过 provider/model 配置切换后端。