lilbee MCP
lilbee запускает локальные модели на нескольких GPU и дает агентам MCP-поиск по вашим файлам с цитатой файла и строки
- 70 ★ репозитория
- Последний коммит
- MIT
Расширенный доступ
Почему такой уровень
- Программа индексирует выбранные файлы и веб-страницы, запускает локальные модели и поднимает локальный HTTP-сервер
- Модели скачиваются с Hugging Face, а при заданном ключе запросы уходят облачному провайдеру
Установка
- Работает в
Ручная установка
brew tap tobocop2/lilbee && brew install lilbeeСамодостаточная сборка. Есть также npm install -g lilbee, AUR, Docker, Nix, Flatpak, Scoop и бинарник из релизов. Затем lilbee self-check.
Доступ и проверки
Как мы проверяемРасширенный доступИнструмент запускает код или ходит в сеть, а внешние данные только читает.
- Программа индексирует выбранные файлы и веб-страницы, запускает локальные модели и поднимает локальный HTTP-сервер
- Модели скачиваются с Hugging Face, а при заданном ключе запросы уходят облачному провайдеру
Это чужой код. Посмотрите файлы в репозитории перед установкой.
Что делает
lilbee — одна программа, которая запускает локальные модели (чат, эмбеддинги, зрение, реранкинг), раскладывает их по всем видеокартам и отвечает на вопросы по вашим файлам, заметкам, коду и веб-страницам с точной ссылкой на файл и строку. Отдельного сервера моделей, векторной базы и контейнера не нужно: lilbee держит индекс сам. Работает на движке `llama.cpp` с Metal, Vulkan и CUDA, а доступ дает терминальное приложение, CLI, MCP-сервер, HTTP API или библиотека Python. Для кодинг-агентов есть два пути. Команды `lilbee launch opencode`, `lilbee launch hermes` и `lilbee launch claude` настраивают агента на локальные модели одной командой: для opencode и hermes lilbee прописывает себя провайдером и MCP-сервером, а Claude Code получает совместимый с Anthropic API через переменные окружения без правки настроек. Второй путь: агент вызывает `lilbee_search` и получает цитируемые фрагменты из вашей библиотеки, поэтому не выдумывает имена функций. Система сама решает размещение: большую чат-модель раскладывает по минимальному числу карт, оставляя запас на каждой. Файлы и индекс остаются на машине, телеметрии и аккаунта нет, облачный провайдер вызывается только по вашему ключу. Проект находится в активной бете, и все релизы на PyPI помечены как предварительные.
Для кого. Тем, кто запускает Claude Code, OpenCode или Hermes на локальных моделях и хочет дать агенту поиск по своим документам, зависимостям и коду без облака.
Подходит, если
- Нужно запустить Claude Code на локальной модели одной командой `lilbee launch claude`
- Агент выдумывает названия функций, и ему надо отдать документацию и исходники зависимостей с цитатой файла и строки
- Чат-модель на 70 миллиардов параметров не помещается на одну карту и должна лечь на три
- Четыре агента в отдельных worktree должны работать с одной локальной моделью
- Файлы, индекс и вопросы не должны покидать машину: ни телеметрии, ни учетной записи
Не подходит, если
- Вы хотите стабильный выпуск: все релизы на PyPI предварительные, интерфейсы и форматы данных могут меняться
- Нужна облачная модель без локального железа: ценность lilbee в запуске на ваших картах
- Железо старое без AVX2: подойдет только сборка `lilbee-compat`, а у нее нет движка для pip
- Требуется один агент в одной папке: хватит обычного поиска grep
Пример запроса к агенту
Запусти Claude Code на локальной модели через lilbee launch claude и найди в индексе моей папки docs, где описана авторизацияMCP
- Транспорт
- stdio, http
- Авторизация
- не нужна
Ограничения
- Проект в активной бете: все релизы на PyPI предварительные, для установки через pip нужен флаг `--pre`, а команды и форматы на диске могут меняться между версиями.
- Первый запуск `lilbee self-check` скачивает около 90 МБ и прогоняет проверочный вывод и эмбеддинг.
- Для старых процессоров без AVX2 есть отдельная сборка `lilbee-compat`, а в варианте для pip у нее нет движка, и вызовы моделей не пройдут без своего `llama-server`.
- Сборки для macOS и Windows не подписаны. ROCm работает только в Linux, карты MI50 требуют сборки с Vulkan.
Как отключить. Пакет снимает менеджер, которым вы ставили: `brew uninstall lilbee`, `npm uninstall -g lilbee`, `uv tool uninstall lilbee` или удаление бинарника. Конфигурацию агентов, куда lilbee прописал себя провайдером и MCP-сервером, убирают вручную.
Частые вопросы
Как поставить lilbee?
Ставьте самодостаточную сборку: `brew tap tobocop2/lilbee && brew install lilbee`, `npm install -g lilbee` или бинарник из релизов. Затем `lilbee self-check` и `lilbee`.
Как запустить Claude Code на локальной модели?
Выполните `lilbee launch claude`. lilbee поднимет совместимый с Anthropic API и направит сессию на него через переменные окружения, не меняя настроек Claude Code.
Что агент получает от lilbee по MCP?
Инструмент `lilbee_search` с цитируемыми фрагментами из вашей библиотеки: путь, строка и текст. Если ответа в библиотеке нет, lilbee сообщает об этом и ничего не выдумывает.
Нужны ли Ollama или отдельный сервер?
Нет. У lilbee свой менеджер моделей и мульти-GPU на `llama.cpp`: он скачивает модели с Hugging Face и запускает их на Metal, Vulkan или CUDA.
Отправляет ли lilbee данные в облако?
Нет телеметрии и аккаунта. К облачному провайдеру lilbee обращается только когда вы задали его ключ API: один раз для проверки ключа и затем для выбранной облачной модели.
Обсуждение
Вопросов и отзывов пока нет.
Похожие
MCP-серверыllmman запускает Claude Code, Codex и OpenCode на локальной или облачной модели одной командой, модели хранит как образы OCI
Локальный кодинг-агент с терминальным интерфейсом: планирует, пишет несколько вариантов, проверяет их в песочнице и чинит, чтобы малые модели тянули код
MCP-сервер отдает ограниченные задачи локальной модели или дешевому облачному API, Claude остается архитектором
CLI и Python-библиотека для работы с OpenAI, Claude, Gemini, локальными и другими моделями: промпты, чаты, инструменты, эмбеддинги и лог в SQLite
Кодинг-агент, настроенный под маленькие локальные модели: минимальный системный промпт, режим планирования и фоновые суб-агенты для исследования
Плагин и MCP-сервер LlamaForge: агент смотрит, какая модель влезет в видеокарту, грузит ее в llama.cpp и отдает ей рутину
Коротко о README
В README lilbee представлен как единая программа для моделей и поиска, предупреждает о бета-статусе, затем идут установка (бандлы, CUDA, ROCm, старые CPU), особенности, разделы о запуске агентов, мульти-GPU, терминальном приложении, HTTP-сервере, форматах и вики.