LLM CLI
CLI и Python-библиотека для работы с OpenAI, Claude, Gemini, локальными и другими моделями: промпты, чаты, инструменты, эмбеддинги и лог в SQLite
- 12 680 ★ репозитория
- Последний коммит
- Apache-2.0
Расширенный доступ
Почему такой уровень
- Отправляет данные внешним провайдерам моделей
- Хранит ключи API и историю запросов локально
Установка
В терминале, через SkillFoxx CLI
npx skillfoxx add cli/llmОпределит агенты на машине, покажет уровень доступа и зафиксирует версию.
Другие способы установки
Доступ и проверки
Как мы проверяемРасширенный доступИнструмент запускает код или ходит в сеть, а внешние данные только читает.
- Отправляет данные внешним провайдерам моделей
- Хранит ключи API и историю запросов локально
Это чужой код. Посмотрите файлы в репозитории перед установкой.
Что делает
LLM запускает промпты к языковым моделям прямо из терминала и из Python. Модели подключаются плагинами: удаленные через API, например Gemini и Anthropic, и локальные, например через Ollama. Все запросы и ответы сохраняются в SQLite, так что к истории можно вернуться и анализировать ее. Инструмент умеет строить эмбеддинги, извлекать структурированные данные по схеме из текста и картинок и давать модели вызывать инструменты. Вывод удобно передавать по конвейеру, поэтому LLM часто используют в скриптах и из агентов.
Для кого. Для разработчиков и аналитиков, которым нужен единый терминальный доступ к разным моделям для скриптов и экспериментов.
Подходит, если
- Нужно встроить вызов модели в shell-скрипт или конвейер
- Нужно сравнить ответы разных моделей и сохранить историю
- Нужно быстро посчитать эмбеддинги или извлечь данные по схеме
Не подходит, если
- Нужен агент, который сам правит код в проекте
- Нужен графический чат-клиент
Пример запроса к агенту
Через llm прогони все файлы из папки logs через модель и выпиши найденные ошибкиОграничения
Для облачных моделей нужны ключи провайдеров, а API OpenAI, Anthropic и Gemini из России без VPN не работают. Локальные модели через плагины работают без внешних сервисов. Установка через Homebrew имеет оговорки, описанные в документации.
Как отключить. Удалите пакет тем же способом, что ставили: pip uninstall llm, pipx uninstall llm, uv tool uninstall llm или brew uninstall llm.
Частые вопросы
Можно ли работать с локальными моделями?
Да, через плагины, например llm-ollama, или указав OpenAI-совместимый адрес вроде LM Studio.
Где хранится история?
В базе SQLite, которую ведет сам LLM, по ней можно искать и строить отчеты.
Обсуждение
Вопросов и отзывов пока нет.
Похожие
CLI-инструментыLM Studio — приложение для запуска открытых моделей на компьютере с чатом, локальным сервером в форматах OpenAI и Anthropic и поддержкой MCP.
Скилл спрашивает ChatGPT и Gemini до того, как Claude покажет план, сопоставляет три мнения и выдает общий план с указанием вклада каждой модели
oterm — терминальный чат с Ollama, OpenAI, Anthropic и другими провайдерами: сессии в SQLite, MCP-серверы, встроенные и собственные инструменты
Сервер инференса на MLX в стиле vLLM, который запускает языковые модели на Mac с Apple Silicon и отдает их по API
Локальный сервер моделей для Mac на Apple Silicon в форматах OpenAI, Anthropic и Ollama: к нему подключают Claude Code, Codex и OpenCode одной командой
MCP-сервер, через который Claude Code, Codex и другие агенты зовут Gemini, GPT, Grok и локальные модели для ревью, отладки и консенсуса
Коротко о README
README перечисляет возможности: промпты из командной строки, лог в SQLite, эмбеддинги, извлечение по схемам и вызов инструментов. Установка через pip, Homebrew, pipx или uv, без установки можно запустить через uvx против OpenAI-совместимого адреса. Показано, как задать ключи, поставить плагины Gemini, Anthropic и Ollama и начать чат. Полная документация на llm.datasette.io. Лицензия Apache-2.0.