RelayPlane CLI
Локальный прокси между ИИ-агентами и провайдерами моделей: считает стоимость каждого запуска и обрывает расход сверх лимита
- 212 ★ репозитория
- Последний коммит
- MIT
Широкий доступ
Почему такой уровень
- Через прокси проходят все запросы агента вместе с ключами и текстами промптов, поэтому его сбой или компрометация открывает доступ к ним
- Маршрутизация по умолчанию подменяет модель на более дешевую и может незаметно ухудшить результат агента
- Аварийная остановка и лимиты блокируют ответы 429 и обрывают работающие задачи
Установка
- Работает в
В терминале, через SkillFoxx CLI
npx skillfoxx add cli/relayplaneОпределит агенты на машине, покажет уровень доступа и зафиксирует версию.
Другие способы установки
Доступ и проверки
Как мы проверяемШирокий доступИнструмент может менять данные, выполнять команды или работать с секретами.
- Через прокси проходят все запросы агента вместе с ключами и текстами промптов, поэтому его сбой или компрометация открывает доступ к ним
- Маршрутизация по умолчанию подменяет модель на более дешевую и может незаметно ухудшить результат агента
- Аварийная остановка и лимиты блокируют ответы 429 и обрывают работающие задачи
Это чужой код. Посмотрите файлы в репозитории перед установкой.
Что делает
RelayPlane — npm-пакет `@relayplane/proxy`, который запускается на вашем компьютере и подменяет базовый адрес API Anthropic или OpenAI. Каждый запрос он оценивает по прейскуранту и складывает стоимость по запускам, агентам и моделям. Итоги видны на локальной панели `http://localhost:4100` и в терминале через `relayplane watch`. Менять код агента не нужно. Сверху лежат средства управления расходом. Лимиты задаются на день, час, запрос, сессию или отдельный запуск и умеют блокировать, переключать на более дешевую модель или предупреждать. Команда остановки гасит весь проходящий трафик. Опциональные детекторы замечают зацикливание и скачки скорости. Запуск можно пометить заголовками `X-RelayPlane-Run` и `X-RelayPlane-Agent`, а команда `relayplane run --label nightly-backfill -- ./orchestrate.sh` оборачивает любой скрипт. Маршрутизация по сложности по умолчанию отправляет простые запросы на дешевые модели, а сложные на сильные. Обойти ее для одного запроса можно заголовком `X-RelayPlane-Bypass: true`. При ответах 429, 503 и 529 прокси переключается на следующего провайдера, если заданы ключи двух и более: Anthropic, OpenAI, Google Gemini, xAI, OpenRouter или локальная Ollama.
Для кого. Тем, кто запускает несколько агентов или массовые задачи на Claude Code и не понимает, какой прогон съел бюджет.
Подходит, если
- Ночной прогон агента зациклился, и счет за API вырос без предупреждения
- Нужна таблица затрат по агентам и по меткам запусков, например `nightly-backfill`
- Каждый запуск Claude Code должен упираться в потолок расходов, не останавливая остальные задачи
- Проверяете более дешевую модель для тяжелого уровня сложности и хотите сменить ее одной строкой конфигурации
- Один провайдер отвечает 429 или 503, и прогон должен перейти на запасной ключ
Не подходит, если
- Нужен облачный шлюз для платформенной команды с бюджетами по пользователям: проект рассчитан на одну машину, для такого случая ближе LiteLLM
- Требуется точная сумма из счета провайдера: цифры в панели считаются по прейскуранту и с реальным счетом могут расходиться
- Агент не дает сменить базовый адрес API, и перенаправить его на локальный порт нельзя
- Хватает разового отчета по логам Claude Code в терминале: проще `ccusage`
Пример запроса к агенту
Поставь RelayPlane, направь Claude Code на локальный прокси и поставь потолок расходов на запуск в 5 долларовОграничения
- Все суммы считаются по прейскуранту и показывают условную стоимость трафика. Счет провайдера может отличаться.
- Маршрутизация по сложности включена по умолчанию и направляет простые запросы на более дешевые модели, даже если агент назвал дорогую. Чтобы закрепить модель, нужен заголовок `X-RelayPlane-Bypass: true` или политика `neverDowngrade`.
- Переключение на другого провайдера при ошибке сейчас работает для ответов без потока, потоковый режим указан как задел.
- Узел Osmosis (анонимные сигналы маршрутизации) и телеметрия выключены по умолчанию и включаются командой `relayplane mesh on` и настройкой.
Как отключить. Остановите прокси и уберите `ANTHROPIC_BASE_URL=http://localhost:4100` из окружения или из `.claude/settings.json`: агент снова пойдет напрямую к провайдеру. Пакет удаляется командой `npm uninstall -g @relayplane/proxy`. История затрат лежит в локальной базе SQLite и удаляется вместе с каталогом настроек.
Частые вопросы
Как подключить RelayPlane к Claude Code?
Установите пакет и запустите прокси: `npm install -g @relayplane/proxy`, затем `relayplane start`. После этого выполните `export ANTHROPIC_BASE_URL=http://localhost:4100` и запускайте `claude`. Панель откроется на `http://localhost:4100`.
Чем RelayPlane отличается от claude-code-router и LiteLLM?
RelayPlane работает локально и добавляет учет расходов по запускам, лимиты и аварийную остановку. По сравнению в README, claude-code-router оценивает затраты по запросам, а LiteLLM рассчитан на бюджеты платформенных команд.
Как ограничить расход одного запуска?
Добавьте заголовок `X-RelayPlane-Run-Cap-Usd` с суммой в долларах. Превысивший запуск получит ответ 429, остальные задачи продолжат работать.
Уходят ли мои данные в сторонние сервисы?
По умолчанию нет. Прокси передает ваши ключи провайдеру, трафик остается прежним до включения маршрутизации, телеметрия по запросам выключена. Анонимный обмен сигналами включается отдельно командой `relayplane mesh on`.
Какие провайдеры поддерживает RelayPlane?
Прямую пересылку для Anthropic, OpenAI, Google Gemini, xAI, OpenRouter и локальной Ollama через один базовый адрес. Переключение при сбое включается автоматически, если заданы ключи двух и более провайдеров.
Обсуждение
Вопросов и отзывов пока нет.
Похожие
CLI-инструментыСамостоятельный шлюз для нескольких ключей и провайдеров LLM: ротация, отказоустойчивость, логи и учет расходов
Локальный сборщик телеметрии ИИ-агентов: токены, сеансы и вызовы инструментов в единой схеме событий OpenTelemetry
Локальный прокси на Rust сжимает запросы к API моделей от Claude Code, Codex и Cursor, чтобы платить за меньше токенов
Локальный прокси между Claude Code и Anthropic: чинит сбои промпт-кэша, стабилизирует префикс запроса и показывает расход квоты в строке состояния
CLI запускает прокси к языковым моделям и отдельный сервис учета запросов для отладки приложений на нескольких провайдерах.
Agentgateway
agentgateway
Прокси для агентного трафика: маршрутизирует и защищает подключения к MCP-серверам, LLM и другим агентам через A2A
Сравнение с похожими
Карточки с тем же главным запросом: чем они отличаются.
| Инструмент | Официальный | Звезды репозитория | Главное отличие |
|---|---|---|---|
| RelayPlane (эта карточка) | нет | 212 | |
| Claude Code Router | нет | 38 020 | маршрутизатор запросов Claude Code между моделями, а RelayPlane добавляет учет затрат по запускам, лимиты и аварийную остановку |
| ccusage | нет | 19 337 | отчеты по логам постфактум, а RelayPlane считает на лету и может остановить расход |
Коротко о README
Страница объясняет, как поставить прокси за 30 секунд, и перечисляет возможности: учет расходов, маршрутизация, лимиты, аварийная остановка, обнаружение аномалий, переключение провайдеров. Дальше идут метки запусков через заголовки, сравнение с другими прокси и ссылки на документацию.