OpenClaw: требования к железу, локальное подключение и планирование контекста
Официальный гайд для OpenClaw. OpenClaw — open-source local-first gateway для агентов, поддерживающий облачных и локальных providers моделей.
Что это
OpenClaw позиционируется как assistant stack, где состояние и учётные данные остаются на ваших устройствах, а model/runtime backends можно менять.
Gateway выступает локальной control plane для сессий, инструментов, каналов и маршрутизации моделей.
Официальные требования к рантайму
- Требование к Node runtime: Документация по установке OpenClaw требует Node 24.16+ или 26.1+ и рекомендует Node 26. Если Node отсутствует, установщик подготавливает его автоматически. (Документация по установке OpenClaw)
- Поддерживаемые платформы: В документации установки OpenClaw указаны macOS, Linux и Windows как поддерживаемые платформы. (Документация по установке OpenClaw)
- Примечание по памяти для локальных моделей: Документация OpenClaw local-models говорит, что память зависит от весов модели, контекста, runtime и нагрузки хоста; управляемые рецепты llama.cpp используют 64K контекст, а минимальный рецепт указывает нижний порог 8 GiB памяти хоста. (Документация OpenClaw по локальным моделям)
Сниппеты локального подключения (официальные docs)
Ollama
openclaw onboard # choose Ollama: Cloud + Local, Cloud only, or Local only openclaw models list --provider ollama
Ollama
models: {
providers: {
ollama: {
api: 'ollama',
baseUrl: 'http://host:11434',
},
},
}В документации OpenClaw Ollama явно сказано не использовать /v1 в режиме native Ollama provider.
LM Studio
models: {
providers: {
lmstudio: {
api: 'openai-responses',
baseUrl: 'http://127.0.0.1:1234/v1',
models: [{ id: 'my-local-model', contextWindow: 196608 }],
},
},
}vLLM
models: {
providers: {
local: {
api: 'openai-completions',
baseUrl: 'http://127.0.0.1:8000/v1',
apiKey: 'sk-local',
},
},
}В документации OpenClaw local-models vLLM указан как OpenAI-совместимый локальный proxy.
llama.cpp
# Managed local server path from OpenClaw local-model docs openclaw onboard # choose Managed local server (llama.cpp plugin)
Почему важны длинный контекст и tool-calling
- В документации OpenClaw local-models подчёркивается: модель может проходить короткие промпты, но срываться на полном agent-turn из-за расхода контекста под tool schema, историю и системные подсказки.
- OpenClaw setup выполняет реальную проверку tool call перед переключением default локальной модели в managed-потоке.
Предзаполненный калькулятор
Матрица ниже — оценка планирования (Q4_K_M, batch=1), а не официальный минимум вендора.
Калькулятор VRAM / RAM
Сравнивайте сценарии для дискретной VRAM, unified memory Apple и CPU/RAM offload.
Пользовательский Hugging Face id / параметры (опционально)
Если repo id неизвестен, расчёт будет выполнен по вашим значениям как по оценке.
| Квант | Весы | KV | Overhead | Итого |
|---|---|---|---|---|
| FP16 / BF16 | 13.04 GiB | 8 GiB | 1.54 GiB | 22.58 GiB |
| INT8 / Q8_0 | 6.68 GiB | 8 GiB | 1.54 GiB | 16.22 GiB |
| Q6_K | 5.17 GiB | 8 GiB | 1.54 GiB | 14.71 GiB |
| Q5_K_M | 4.44 GiB | 8 GiB | 1.54 GiB | 13.98 GiB |
| Q4_K_M | 3.75 GiB | 8 GiB | 1.54 GiB | 13.29 GiB |
| Q3_K_M / Q3 | 2.85 GiB | 8 GiB | 1.54 GiB | 12.39 GiB |
| Q2_K / Q2 | 2.04 GiB | 8 GiB | 1.54 GiB | 11.58 GiB |
| Железо | Память | Вердикт | tok/s (оценка) |
|---|---|---|---|
| NVIDIA GeForce RTX 4090 24GB | 24 GiB | Подходит | 170.3 |
| NVIDIA GeForce RTX 5090 32GB | 32 GiB | Подходит | 302.75 |
| NVIDIA GeForce RTX 4080 SUPER 16GB | 16 GiB | Подходит | 124.34 |
| NVIDIA GeForce RTX 4070 Ti SUPER 16GB | 16 GiB | Подходит | 113.53 |
| AMD Radeon RX 7900 XTX 24GB | 24 GiB | Подходит | 162.19 |
| NVIDIA A100 80GB PCIe | 80 GiB | Подходит | 326.91 |
| Apple Silicon M3 Max (128GB unified memory) | 128 GiB | Подходит | 57.64 |
| Apple Silicon M2 Ultra (192GB unified memory) | 192 GiB | Подходит | 115.28 |
| 2× NVIDIA GeForce RTX 4090 (aggregate) | 48 GiB | Подходит | 306.46 |
Формулы и допущения
- Weight memory uses resident params × effective_bits / 8 (total params when available, otherwise active/fallback estimate).
- KV cache = 2 × layers × kv_heads × head_dim × kv_bytes × context × batch.
- Runtime overhead = 1.3 GiB base + 3% of KV-cache memory.
- Tokens/sec estimate uses active_params for decode bandwidth and should be treated as a rough directional number.
- Apple Silicon fit checks use an estimated usable unified-memory budget (about 75% by default, about 68% on 16GB systems) aligned with macOS recommendedMaxWorkingSetSize behavior.
- Recommended quantization keeps at least 10% memory headroom relative to usable memory budget.
- CPU/RAM offload (for example llama.cpp partial offload with lower GPU layer count) can reduce VRAM needs at the cost of speed.
- When config values are unavailable, fallback defaults are used and flagged as estimated on the page.
Таблица fit по классам памяти (оценка LLMRAM)
Матрица ниже — оценка планирования (Q4_K_M, batch=1), а не официальный минимум вендора.
Контекст 32K
Классы GPU
| Профиль модели | Оценка total memory | 8 GB | 12 GB | 16 GB | 24 GB | 32 GB | 48 GB |
|---|---|---|---|---|---|---|---|
| Mistral 7B Instruct v0.3 | 9.17 GiB | ✕ Не подходит | ✓ Подходит | ✓ Подходит | ✓ Подходит | ✓ Подходит | ✓ Подходит |
| Qwen 3.8 27B | 24 GiB | ✕ Не подходит | ✕ Не подходит | ✕ Не подходит | ✓ Подходит | ✓ Подходит | ✓ Подходит |
| GLM 5.3 (Flash) | 195.84 GiB | ✕ Не подходит | ✕ Не подходит | ✕ Не подходит | ✕ Не подходит | ✕ Не подходит | ✕ Не подходит |
Классы unified memory Mac
| Профиль модели | Оценка total memory | 16 GB | 36 GB | 64 GB | 128 GB |
|---|---|---|---|---|---|
| Mistral 7B Instruct v0.3 | 9.17 GiB | ✓ Подходит | ✓ Подходит | ✓ Подходит | ✓ Подходит |
| Qwen 3.8 27B | 24 GiB | ✕ Не подходит | ✓ Подходит | ✓ Подходит | ✓ Подходит |
| GLM 5.3 (Flash) | 195.84 GiB | ✕ Не подходит | ✕ Не подходит | ✕ Не подходит | ✕ Не подходит |
Контекст 64K
Классы GPU
| Профиль модели | Оценка total memory | 8 GB | 12 GB | 16 GB | 24 GB | 32 GB | 48 GB |
|---|---|---|---|---|---|---|---|
| Mistral 7B Instruct v0.3 | 13.29 GiB | ✕ Не подходит | ✕ Не подходит | ✓ Подходит | ✓ Подходит | ✓ Подходит | ✓ Подходит |
| Qwen 3.8 27B | 32.24 GiB | ✕ Не подходит | ✕ Не подходит | ✕ Не подходит | ✕ Не подходит | ✕ Не подходит | ✓ Подходит |
| GLM 5.3 (Flash) | 219.01 GiB | ✕ Не подходит | ✕ Не подходит | ✕ Не подходит | ✕ Не подходит | ✕ Не подходит | ✕ Не подходит |
Классы unified memory Mac
| Профиль модели | Оценка total memory | 16 GB | 36 GB | 64 GB | 128 GB |
|---|---|---|---|---|---|
| Mistral 7B Instruct v0.3 | 13.29 GiB | ✕ Не подходит | ✓ Подходит | ✓ Подходит | ✓ Подходит |
| Qwen 3.8 27B | 32.24 GiB | ✕ Не подходит | ✕ Не подходит | ✓ Подходит | ✓ Подходит |
| GLM 5.3 (Flash) | 219.01 GiB | ✕ Не подходит | ✕ Не подходит | ✕ Не подходит | ✕ Не подходит |
FAQ
OpenClaw обязательно требует cloud API?
Нет. Документация OpenClaw покрывает local-first конфигурации и локальные маршруты моделей, включая Ollama и managed local server.
Почему OpenClaw документирует и native Ollama, и OpenAI-совместимые /v1 backend'ы?
Для Ollama provider mode используется native Ollama API, а для vLLM/LM Studio/proxy применяется конфигурация OpenAI-совместимых provider mode.
Можно ли считать из документации OpenClaw одно фиксированное минимальное значение памяти?
Нет. OpenClaw явно указывает зависимость от модели, контекста, runtime и состояния хоста; нижние пороги рецептов не являются гарантией fit.
Заметки по верификации
- Раздел runtime-требований содержит только утверждения, которые присутствуют в официальной документации фреймворков, перечисленной на этой странице.
- Таблицы fit — это планировочные оценки LLMRAM на основе текущих страниц моделей и предположений калькулятора.
- Если в официальных ссылках нет runtime-специфичного snippet (например, Hermes llama.cpp), страница явно отмечает этот пробел.