Humanbound CLI
Humanbound атакует ИИ-агента диалогами, оценивает ответы по политике безопасности и превращает сбои в правила экрана
- 238 ★ репозитория
- Последний коммит
- Apache-2.0
Широкий доступ
Почему такой уровень
- Движок отправляет вредоносные запросы на указанный эндпоинт агента и вызывает его инструменты, поэтому направлять его можно только на свои системы.
- Ключ провайдера и содержимое диалогов уходят в модель, которая атакует и оценивает.
Установка
- Работает в
В терминале, через SkillFoxx CLI
npx skillfoxx add cli/humanboundОпределит агенты на машине, покажет уровень доступа и зафиксирует версию.
Что отправляет автору: что отправляет автору: инструмент hb CLI отправляет анонимные данные об использовании для улучшения проекта. отключение отправки требует явного действия пользователя. Отключить отправку: HB_TELEMETRY_DISABLED=1 в переменных окружения сервера.
Другие способы установки
Доступ и проверки
Как мы проверяемШирокий доступИнструмент может менять данные, выполнять команды или работать с секретами.
- Движок отправляет вредоносные запросы на указанный эндпоинт агента и вызывает его инструменты, поэтому направлять его можно только на свои системы.
- Ключ провайдера и содержимое диалогов уходят в модель, которая атакует и оценивает.
Это чужой код. Посмотрите файлы в репозитории перед установкой.
Что делает
Humanbound — движок и консольная утилита `hb` для проверки безопасности ИИ-агентов. Он ведет с вашим реальным эндпоинтом многоходовые диалоги: пытается заставить агента злоупотребить инструментами, выйти из роли, поддаться инъекции промпта или выдать данные. Оценку каждому ответу ставит ИИ-судья по вашей политике безопасности. После прогона `hb posture` показывает оценку безопасности от 0 до 100 с буквой от A до F, а `hb logs --verdict fail` выводит диалоги, где агент сломался. Находки сопоставлены с OWASP LLM и Agentic AI Top 10. Из сбоев получаются правила для отдельного проекта humanbound-firewall, после чего прогон повторяют и сверяют результат. Эндпоинт описывается файлом конфигурации, прогон запускается через `hb test --endpoint ./bot-config.json --wait`. Есть учебные агенты `hello-world` и `pricewatch` в Docker, нарочно уязвимые. Интеграции: GitHub Action с порогом `fail-on` и SARIF, MCP-сервер для вопросов о результатах.
Для кого. Разработчикам и командам безопасности, которые выпускают ИИ-агента с инструментами и хотят найти слабые места до выхода в продакшен.
Подходит, если
- Чат-бот с доступом к инструментам готовится к релизу, и нужна проверка на инъекции и утечки.
- В CI надо останавливать сборку, если агент провалил проверку высокой серьезности.
- Нужен отчет с привязкой находок к OWASP LLM и Agentic AI Top 10.
- Команде нужен безопасный полигон, чтобы научиться атаковать агента: подойдут учебные агенты в Docker.
Не подходит, если
- Нужно тестировать чужие системы без разрешения: инструмент рассчитан на ваши собственные агенты и эндпоинты.
- Нет ключа к LLM-провайдеру или локальной Ollama: атакующая модель и судья обязательны.
- Нужен готовый экран для трафика в продакшене: за него отвечает отдельный humanbound-firewall.
Пример запроса к агенту
Установи humanbound, опиши мой эндпоинт в `bot-config.json`, запусти `hb test --endpoint ./bot-config.json --wait` и покажи диалоги, где агент провалился.Ограничения
Нужны Python 3.10 или новее и ключ провайдера модели (OpenAI, Anthropic, Gemini) либо локальная Ollama: эта модель атакует и оценивает. Учебные агенты требуют Docker и ключ OpenAI или совместимый сервер. Практические агенты уязвимы по замыслу, поэтому запускать их рядом с чувствительными данными нельзя. Быстрый прогон занимает около 20 минут. Размещенные модели атаки и MCP-сервер работают через аккаунт Humanbound Platform, локальный режим `hb test --local` использует вашу модель. Результат зависит от судьи, поэтому спорные оценки стоит разбирать вручную.
Как отключить. Удалите пакет командой `pip uninstall humanbound`, остановите учебных агентов командой `hb arena stop hello-world` и удалите файлы конфигурации из проекта.
Частые вопросы
Как установить Humanbound?
Выполните `pip install 'humanbound[engine]'` и задайте `HB_PROVIDER` и `HB_API_KEY` для модели, которая атакует и оценивает.
Можно ли попробовать без собственного агента?
Да, учебный агент `hello-world` запускается командой `hb arena run hello-world`, а `hb test --target arena://hello-world --quick --wait` атакует его.
Как подключить к CI?
Через GitHub Action с параметрами `endpoint`, `provider-api-key`, `model` и порогом `fail-on`. Находки выводятся в SARIF на вкладку Security.
Нужен ли аккаунт Humanbound?
Для локального запуска нет, регистрация не требуется. Аккаунт нужен для размещенных моделей атаки и MCP-сервера.
Как использовать из Claude Code или Cursor?
Поставьте `pip install 'humanbound[mcp]'`: MCP-сервер отвечает на вопросы об оценке, находках и прогонах на платформе.
Обсуждение
Вопросов и отзывов пока нет.
Похожие
CLI-инструментыHackAgent проверяет ИИ-модель или агента на джейлбрейки, инъекции промптов и злоупотребление инструментами, считает атаки
ai-engineering ставит хуки, которые отказывают агенту в разрушительных вызовах и пишут квитанцию решения в репозиторий
Открытый инструмент для эмуляции атак на AI-агентов, LLM-приложения и MCP серверы, с проверкой по каталогам OWASP
HOL Guard проверяет команды ИИ-агента, чтение секретов, вызовы MCP и установку пакетов перед выполнением и ждет вашего решения по опасным действиям
CLI проверки безопасности ИИ: сканирует модели и код, пробует живые эндпоинты и MCP-серверы, разбирает записи работы агентов
CLI с политиками, который перехватывает опасные команды AI-агентов вроде rm -rf, force push или чтения .env до их выполнения
Коротко о README
Цикл в Humanbound такой: атака, оценка по политике, правила для экрана и повторный прогон. Проект открытый, работает локально без входа, лицензия Apache-2.0, есть платформа для командной работы.