Busbar CLI
Самохостящийся шлюз между ИИ-приложениями и моделями, MCP-инструментами и A2A-агентами: политики, бюджеты, маршрутизация и журнал
- 219 ★ репозитория
- Последний коммит
- Apache-2.0
Широкий доступ
Почему такой уровень
- Шлюз хранит ключи провайдеров и пропускает через себя весь трафик моделей и инструментов
- Настройка политик и бюджетов определяет, к каким моделям и инструментам агенты получают доступ
Установка
- Работает в
Ручная установка
docker run --rm -p 8080:8080 -e ANTHROPIC_KEY -e BUSBAR_ADMIN_TOKEN getbusbar/busbarКонтейнер поставляется со стартовой конфигурацией; есть и бинарный файл через install.sh, и чарт Helm.
Доступ и проверки
Как мы проверяемШирокий доступИнструмент может менять данные, выполнять команды или работать с секретами.
- Шлюз хранит ключи провайдеров и пропускает через себя весь трафик моделей и инструментов
- Настройка политик и бюджетов определяет, к каким моделям и инструментам агенты получают доступ
Это чужой код. Посмотрите файлы в репозитории перед установкой.
Что делает
Busbar — граница исполнения для ИИ: один статический бинарный файл на Rust, который стоит между приложениями или агентами и теми, до кого они дотягиваются, то есть моделями, MCP-инструментами и A2A-агентами. Для трафика через него оператор проверяет, ограничивает, направляет и записывает вызовы моделей, использование инструментов и делегирование агентов до того, как они дойдут до разрешенных адресов. Протоколы моделей: OpenAI, OpenAI Responses, Anthropic, Gemini, Cohere и Bedrock Converse. Все 36 пар входного и выходного протоколов обслуживаются, а запрос того же протокола пересылается байт в байт. Ключи провайдеров остаются на границе, в окружении оператора, а в конфигурации записывается имя переменной. В модели исполнения есть виртуальные ключи, групповые бюджеты и учет трат, взвешенные пулы с резервированием, ограничения параллелизма, размыкатели цепи, TLS и mTLS, метрики Prometheus и OTLP и вебхуки аудита. Управление инструментами MCP и доверие к агентам A2A построены на той же модели: гранты вызывающим, утвержденные схемы, бюджеты, закрепление и повторная проверка.
Для кого. Платформенным командам и администраторам, которые запускают агентов и приложения на моделях нескольких поставщиков и хотят держать ключи, бюджеты и аудит в одной точке.
Подходит, если
- Ключи провайдеров должны остаться в вашей инфраструктуре, а команды получают виртуальные ключи
- Для групп нужны бюджеты трат и учет расходов по вызовам моделей
- Разные клиентские SDK обращаются к моделям других вендоров через единый адрес шлюза
- Нужен журнал вызовов моделей и инструментов с веб-хуками аудита
Не подходит, если
- Каталог из сотен провайдеров: авторы сами называют каталог LiteLLM намного шире
- Размещенный сервис без самостоятельной эксплуатации: Busbar только самохостящийся
- Личное использование одним агентом без пулов и бюджетов: шлюз избыточен
Пример запроса к агенту
Подними Busbar локально с пулом fast из Claude и направь мой Anthropic SDK через негоОграничения
Busbar эксплуатируется самостоятельно: вы ставите бинарный файл или контейнер, пишете config.yaml и держите ключи провайдеров в окружении. Каталог провайдеров меньше, чем у LiteLLM, авторы называют это причиной выбрать его, а таблица сравнения в README составлена самими авторами. README показывает прежде всего плоскость выполнения моделей, а управление MCP и доверие A2A описаны как та же модель. Установочный скрипт через curl читайте до запуска. Версия конфигурации не входит в гарантию совместимости SemVer.
Как отключить. Остановите процесс busbar или контейнер getbusbar/busbar и удалите бинарный файл и config.yaml. Для Kubernetes выполните helm uninstall busbar.
Частые вопросы
Что такое пул в конфигурации?
Взвешенная группа моделей, которую вы называете в config.yaml. Например, пул fast: 80% Claude и 20% GPT с запасным Bedrock при сбое. Клиент обращается к имени пула как к модели.
Какие протоколы моделей поддерживаются?
OpenAI, OpenAI Responses, Anthropic, Gemini, Cohere и Bedrock Converse, в каждой комбинации входа и выхода (36 пар). Запрос того же протокола пересылается байт в байт.
Отправляет ли Busbar данные наружу?
Нет, это самохостящийся шлюз без размещенного сервиса и регистрации, и телеметрию он не отправляет. Данные уходят только провайдерам и адресам, которые вы настроили.
Как быстро проверить конфигурацию?
Командой busbar --validate: она разбирает config.yaml и все ссылки на провайдеров и завершается с ненулевым кодом при ошибке, без сервера, сети и состояния. Подходит для CI.
Как запустить в Kubernetes?
Командами helm repo add busbar https://getbusbar.github.io/helm-charts и helm install busbar busbar/busbar -f my-values.yaml. Один контейнер без дополнительных сайдкаров, образ около 5,7 МиБ.
Обсуждение
Вопросов и отзывов пока нет.
Похожие
CLI-инструментыAgentgateway
agentgateway
Прокси для агентного трафика: маршрутизирует и защищает подключения к MCP-серверам, LLM и другим агентам через A2A
Шлюз GoModel собирает MCP-серверы за одним защищенным адресом: агент видит нужные инструменты по ключу, а токены остаются в шлюзе.
Самостоятельный шлюз для нескольких ключей и провайдеров LLM: ротация, отказоустойчивость, логи и учет расходов
Самостоятельно разворачиваемый MCP и A2A шлюз с identity-провайдером, контролем доступа и наблюдаемостью для корпоративных агентов
Шлюз на Rust подключает MCP-серверы и LLM-провайдеров за одним адресом и добавляет авторизацию, лимиты и поиск инструментов
AIHelms, MCP-шлюз организации, связывает вызовы с персональными ключами сотрудников и учитывает заданную стоимость инструментов.
Коротко о README
В README Busbar назван границей исполнения между приложениями и ресурсами, приводит данные по задержке и памяти, сравнение с шлюзами, быстрый запуск через скрипт или контейнер, развертывание в Kubernetes, что регулируется (модели, инструменты, агенты) и условия совместимости версий.