LLM

Установка

pipx install llm

Это чужой код. Посмотрите файлы в репозитории перед установкой.

Что делает

LLM запускает промпты к языковым моделям прямо из терминала и из Python. Модели подключаются плагинами: удаленные через API, например Gemini и Anthropic, и локальные, например через Ollama. Все запросы и ответы сохраняются в SQLite, так что к истории можно вернуться и анализировать ее. Инструмент умеет строить эмбеддинги, извлекать структурированные данные по схеме из текста и картинок и давать модели вызывать инструменты. Вывод удобно передавать по конвейеру, поэтому LLM часто используют в скриптах и из агентов.

Для кого. Для разработчиков и аналитиков, которым нужен единый терминальный доступ к разным моделям для скриптов и экспериментов.

Пример запроса к агенту

Через llm прогони все файлы из папки logs через модель и выпиши найденные ошибки

Ограничения

Для облачных моделей нужны ключи провайдеров, а API OpenAI, Anthropic и Gemini из России без VPN не работают. Локальные модели через плагины работают без внешних сервисов. Установка через Homebrew имеет оговорки, описанные в документации.

Как отключить. Удалите пакет тем же способом, что ставили: pip uninstall llm, pipx uninstall llm, uv tool uninstall llm или brew uninstall llm.

Проверка безопасности

• Отправляет данные внешним провайдерам моделей
• Хранит ключи API и историю запросов локально

Коротко о README

README перечисляет возможности: промпты из командной строки, лог в SQLite, эмбеддинги, извлечение по схемам и вызов инструментов. Установка через pip, Homebrew, pipx или uv, без установки можно запустить через uvx против OpenAI-совместимого адреса. Показано, как задать ключи, поставить плагины Gemini, Anthropic и Ollama и начать чат. Полная документация на llm.datasette.io. Лицензия Apache-2.0.

Похожие