LLM-in-Sandbox CLI
CLI подключает модель к терминалу Docker-контейнера: агент выполняет команды, создает файлы и сохраняет историю шагов
- 247 ★ репозитория
- Последний коммит
- Apache-2.0
Широкий доступ
Почему такой уровень
- Модель выбирает команды Bash для контейнера, получает копии входных файлов и имеет доступ к сети
- Ключ API передается флагом `--api_key` или переменной окружения, а запросы и содержимое файлов уходят выбранному поставщику модели
- Для работы нужен доступ к демону Docker, а он обычно требует расширенных прав на машине
Установка
В терминале, через SkillFoxx CLI
npx skillfoxx add cli/llm-in-sandboxОпределит агенты на машине, покажет уровень доступа и зафиксирует версию.
Другие способы установки
Доступ и проверки
Как мы проверяемШирокий доступИнструмент может менять данные, выполнять команды или работать с секретами.
- Модель выбирает команды Bash для контейнера, получает копии входных файлов и имеет доступ к сети
- Ключ API передается флагом `--api_key` или переменной окружения, а запросы и содержимое файлов уходят выбранному поставщику модели
- Для работы нужен доступ к демону Docker, а он обычно требует расширенных прав на машине
Это чужой код. Посмотрите файлы в репозитории перед установкой.
Что делает
LLM-in-Sandbox запускает агентский цикл, в котором модель выбирает команды, а Docker-контейнер их выполняет. Команда `llm-in-sandbox run` принимает задачу, имя модели и адрес API. Агент может читать переданные файлы, писать код, запускать его и сохранять результат. Образ `cdx123/llm-in-sandbox:v0.1` скачивается при первом запуске. Проект вырос из исследования RUC AI Box о применении моделей к задачам вне программирования: от обработки длинных документов до подготовки файлов и научных расчетов. Файловая система помогает обращаться к нужным фрагментам материала по мере работы. Результаты бенчмарков в статье относятся к настройкам авторов. Для моделей используется LiteLLM: подходят поддерживаемые поставщики и собственные vLLM или SGLang с совместимыми вызовами инструментов. Каждый прогон создает папку с отметкой времени. В `files` лежат `answer.txt` и созданные файлы, в `trajectory.json` сохраняется последовательность действий и наблюдений.
Для кого. Для исследователей и разработчиков, которые проверяют модели в роли универсального агента и хотят изолировать выполнение команд в контейнере.
Подходит, если
- Нужно проверить, насколько модель с доступом к терминалу лучше справляется с задачей по химии, физике или математике
- Длинный документ не помещается в контекст, и агент должен читать его по частям из файлов песочницы
- Требуется воспроизвести результаты статьи Computer Environments Elicit General Agentic Intelligence in LLMs через модуль бенчмарков
- Вы поднимаете модель на vLLM или SGLang и хотите увидеть, как она ведет себя как агент с командной строкой
- Нужно запустить небольшую задачу вроде постера или музыкального фрагмента и забрать готовые файлы из папки вывода
Не подходит, если
- Вам нужен помощник для правки вашего репозитория в Cursor или Claude Code: проект запускает отдельного агента и не встраивается в редактор
- На машине нельзя поставить Docker: песочница без него не работает
- Нужны гарантии изоляции для недоверенного кода: проект опирается на изоляцию Docker и отдельных проверок безопасности не описывает
- Требуется Windows: проект проверен на Ubuntu 22.04 с Python 3.10
Пример запроса к агенту
Запусти `llm-in-sandbox` с запросом «составь план поездки в Казань на три дня» и покажи, какие файлы лежат в папке выводаОграничения
Нужны Python 3.10 или новее, Docker и доступ к его демону. Локальный GPU не требуется для внешнего API, но собственная модель требует подходящего сервера и оборудования.
Команды в контейнере выполняются без отдельного подтверждения каждого шага. Сеть по умолчанию не выключена, лимиты памяти явно не заданы. Параметр `--input_dir` копирует входные файлы в контейнер, а результаты команд могут передаваться модели.
Предел `--max_steps` по умолчанию равен 100. Он ограничивает шаги, но не гарантирует цену или успешный результат. После удаления контейнера остаются выходные файлы, история и скачанный образ. Лицензия Apache-2.0.
Как отключить. Выполните `pip uninstall llm-in-sandbox`. Образ контейнера удаляет команда `docker rmi cdx123/llm-in-sandbox:v0.1`, папки с результатами лежат в `./output`, если вы не задали другую через `--output_dir`.
Частые вопросы
Как установить LLM-in-Sandbox?
Поставьте Docker, затем выполните `pip install llm-in-sandbox==0.2.0`. Можно и из исходников: клонировать репозиторий и выполнить `pip install -e .`. Образ контейнера скачается при первом запуске.
Какие модели подключаются к LLM-in-Sandbox?
CLI использует LiteLLM: нужны поддерживаемый поставщик или совместимый сервер vLLM/SGLang и модель с вызовом инструментов. Имя модели и адрес задаются отдельно. Требование ключа зависит от выбранного API; у собственного сервера тоже может быть авторизация.
Где LLM-in-Sandbox сохраняет результат работы агента?
В папке `./output` с отметкой времени, путь меняет `--output_dir`. Внутри подпапка `files` с ответом в `answer.txt` и созданными файлами и `trajectory.json` с историей шагов.
Можно ли передать агенту свои файлы?
Да. Параметр `--input_dir` задает каталог, содержимое которого копируется в контейнер. Это не подключение исходной папки как общего тома. Передавайте только нужные файлы: агент сможет читать копию, а результаты чтения могут уйти поставщику модели.
Чем LLM-in-Sandbox отличается от обычного кодового агента?
Это исследовательская среда для задач, в которых модели полезны файлы и выполнение команд. В комплекте есть примеры и средства воспроизведения авторских бенчмарков. Качество результата зависит от модели, задачи и настройки контейнера.
Обсуждение
Вопросов и отзывов пока нет.
Похожие
CLI-инструментыCLI и Python-библиотека для работы с OpenAI, Claude, Gemini, локальными и другими моделями: промпты, чаты, инструменты, эмбеддинги и лог в SQLite
llmman запускает Claude Code, Codex и OpenCode на локальной или облачной модели одной командой, модели хранит как образы OCI
Докер-контейнер с браузером, терминалом, файлами, VS Code и MCP-сервисами внутри для безопасного запуска действий агента в изоляции
mi — агентный кодинг в 30 строках: цикл, два инструмента и модель; работает с любым API, совместимым с OpenAI, и в Docker.
Сервер инференса на MLX в стиле vLLM, который запускает языковые модели на Mac с Apple Silicon и отдает их по API
Команды LM Studio показывают скачанные и загруженные модели, управляют локальным API и выводят журналы в терминал.
Сравнение с похожими
Карточки с тем же главным запросом: чем они отличаются.
| Инструмент | Официальный | Авторизация | Звезды репозитория | Главное отличие |
|---|---|---|---|---|
| LLM-in-Sandbox (эта карточка) | нет | 247 | ||
| Zerobox | нет | 729 | песочница для чужих команд и кода агента, без собственного агента и бенчмарков | |
| CodeRunner | да | не нужна | 900 | локальная песочница для запуска кода по запросу агента, сама модель в нее не встроена |
| coop | нет | 807 | CLI создает отдельные виртуальные машины для кодинг-агентов, чтобы запускать инструменты разработки вне основной системы. |
Коротко о README
История прогона сохраняется отдельно от итоговых файлов. При включении `save_litellm_response` вывод дополнительно содержит полные запросы и ответы модели, поэтому такую папку нужно просмотреть перед публикацией или передачей коллегам.