ContextPilot — плагин
Движок контекста для OpenClaw и Hermes Agent: переставляет блоки и убирает повторы, чтобы кэш префикса работал чаще
- 146 ★ репозитория
- Последний коммит
- Apache-2.0
Расширенный доступ
Почему такой уровень
- В режиме HTTP-прокси сервис стоит между агентом и API модели и видит все запросы агента, а `install_hook` пишет `.pth`-файл в site-packages и подключает интеграцию при каждом запуске Python.
- Переупорядочивание и замена повторов меняют текст запроса, поэтому на задачах с жесткой структурой промпта результат нужно сверять.
Установка
- Работает в
Ручная установка
openclaw plugins install @contextpilot-ai/contextpilotЗатем назначьте слот `contextEngine` в `~/.openclaw/openclaw.json` и перезапустите OpenClaw.
Доступ и проверки
Как мы проверяемРасширенный доступИнструмент запускает код или ходит в сеть, а внешние данные только читает.
- В режиме HTTP-прокси сервис стоит между агентом и API модели и видит все запросы агента, а `install_hook` пишет `.pth`-файл в site-packages и подключает интеграцию при каждом запуске Python.
- Переупорядочивание и замена повторов меняют текст запроса, поэтому на задачах с жесткой структурой промпта результат нужно сверять.
Это чужой код. Посмотрите файлы в репозитории перед установкой.
Что делает
ContextPilot — слой между сборкой контекста и инференсом. Длинные запросы (RAG, диалоги с памятью, агенты с инструментами) собирают много блоков, которые от запроса к запросу повторяются, но идут в другом порядке; префикс токенов меняется, кэш промахивается, а ключи и значения внимания пересчитываются заново. ContextPilot ведет индекс закэшированного содержимого и на каждый запрос переупорядочивает блоки так, чтобы общая часть оказалась в начале (Reorder), а повторы заменяет ссылками (Deduplicate). Для агентов есть готовые встройки. В OpenClaw ставится родной плагин `openclaw plugins install @contextpilot-ai/contextpilot`, после чего в `~/.openclaw/openclaw.json` слот `contextEngine` назначается ContextPilot; для своих моделей и особых бэкендов предусмотрен режим HTTP-прокси. В Hermes Agent ставится `hermes plugins install EfficientContext/ContextPilot`, и в списке плагинов выбирается Context Engine, ContextPilot. Для vLLM и SGLang хуки подключает `pip install contextpilot`, а на Mac работает связка с llama.cpp. По замеру авторов на 60 задачах анализа документов в OpenClaw (Qwen3-4B на SGLang, RTX 5090) число токенов запроса в среднем упало на 26,5%, а среднее время ответа на 20,4%, и все 245 ответов остались верными.
Для кого. Тем, кто запускает OpenClaw или Hermes Agent на собственных моделях через vLLM, SGLang или llama.cpp и упирается в стоимость длинного контекста.
Подходит, если
- Агент OpenClaw повторно читает одни и те же файлы, и запросы к модели растут с каждым шагом.
- Модель крутится на своей видеокарте под SGLang или vLLM, а скорость префилла ограничивает работу.
- Диалог с памятью (Mem0, PageIndex) подмешивает в запрос много пересекающихся блоков.
- Облачный API нужно использовать экономнее: синхронизация кэша описана для OpenAI, Anthropic и MiniMax.
Не подходит, если
- Контекст короткий и не повторяется между запросами: выигрыш от кэша префикса будет небольшим.
- Порядок блоков в запросе жестко задан правилами задачи: переупорядочивание его изменит.
- Агент другой, а ставить прокси в свой код неохота: родные плагины есть только для OpenClaw и Hermes Agent.
Пример запроса к агенту
Подключи ContextPilot как движок контекста в OpenClaw, запусти тот же набор из 60 задач с ним и без него и сравни число токенов на запрос.Ограничения
Нужен Python 3.10 или новее. Прирост зависит от самого запроса: он заметен там, где много общих блоков, а цифры README относятся к конкретным моделям и видеокартам. Для индекса на GPU ставится `contextpilot[gpu]` под CUDA 12.x. Установка из исходников требует отдельного `python -m contextpilot.install_hook` для vLLM и SGLang, а на Mac с llama.cpp нужен `xcode-select --install`, чтобы собрать нативный хук. После замены слота в `openclaw.json` агент перезапускают.
Как отключить. В OpenClaw верните слот `contextEngine` к значению по умолчанию и выключите запись `contextpilot`, в Hermes Agent выберите другой Context Engine в `hermes plugins`; хук для vLLM и SGLang убирает `python -m contextpilot.install_hook --remove`.
Частые вопросы
Как поставить ContextPilot в OpenClaw?
Командой `openclaw plugins install @contextpilot-ai/contextpilot`. Затем в `~/.openclaw/openclaw.json` укажите `"contextEngine": "contextpilot"` в `plugins.slots` и включите запись в `plugins.entries`. После перезапуска плагин работает внутри процесса, прокси не нужен.
Как подключить ContextPilot к Hermes Agent?
Командой `hermes plugins install EfficientContext/ContextPilot`, затем в `hermes plugins` выберите Context Engine и ContextPilot. Исходники Hermes менять не нужно.
Что делает ContextPilot с запросом?
Находит блоки, которые уже есть в кэше модели, ставит их в общий префикс и заменяет повторы ссылками. Оптимизированный запрос уходит по OpenAI-совместимому API, а `POST /evict` сообщает индексу о вытесненных блоках.
С какими движками инференса он работает?
С vLLM, SGLang и llama.cpp (в том числе на Mac с Apple Silicon), а также с облачными API OpenAI, Anthropic и MiniMax через синхронизацию кэша.
Снижает ли переупорядочивание качество ответов?
По замерам авторов точность на их наборах осталась прежней: 245 из 245 в тесте OpenClaw и близкие оценки судьи на LoCoMo. Для своих данных этот результат стоит проверить на собственных задачах.
Обсуждение
Вопросов и отзывов пока нет.
Похожие
ПлагиныContextLattice — локальный слой контекста для агентов
ContextLattice
Локальный слой памяти: цель, решения и доказательства сессии собираются в короткий пакет, который агент открывает заново
Плагин context-optimizer показывает стоимость сессий Claude, режет контекст и отдает чтение файлов и тесты дешевым Haiku.
Локальный прокси и плагин для Claude Code и Codex: режет лишний вывод инструментов, греет кэш промптов и показывает экономию
Локальный слой управления контекстом для кодинг-агентов: понимает задачу, подбирает и сжимает контекст, ведет учет затрат
Плагин Hermes и скилл OpenClaw: память о хранилище Obsidian и markdown-заметках через граф понятий и локальный семантический поиск
Маркетплейс плагинов для агентов: рефлексия, ревью кода и PR, git, TDD, DDD, спецификации и субагентная разработка
Сравнение с похожими
Карточки с тем же главным запросом: чем они отличаются.
| Инструмент | Официальный | Авторизация | Звезды репозитория | Главное отличие |
|---|---|---|---|---|
| ContextPilot (эта карточка) | нет | 146 | ||
| Context Mode | нет | не нужна | 33 913 | MCP-сервер, экономящий окно контекста агента на стороне инструментов; ContextPilot работает на стороне инференса и переставляет блоки ради кэша префикса |
| Context Engineering Kit | нет | 1 821 | набор плагинов с практиками построения контекста; ContextPilot переставляет и сжимает готовый контекст автоматически |
Коротко о README
README открывается заголовочными цифрами, новостями и описанием проблемы, затем показывает таблицы замеров для OpenClaw, Mem0 и llama.cpp. Установка разбита по средам: OpenClaw, Hermes Agent, vLLM и SGLang, Mac. Ссылки ведут на статью MLSys 2026 и документацию.