Ollama: как установить, какие модели скачать и как подключить к агентам

Что такое Ollama?

Ollama — бесплатная программа, которая скачивает открытую языковую модель и запускает ее у вас на компьютере. Модель отвечает в чате прямо в терминале, а через локальный API ее подключают к агентам и своим скриптам. Запросы к локальной модели не уходят в интернет: в документации Ollama прямо сказано, что при локальном запуске компания не видит ваших промптов и данных.

Проект открытый, у него 185 тыс. ★ репозитория, последняя версия v0.40.13 вышла 28 октября 2026 года. Карточка программы в каталоге — Ollama. Если вы еще выбираете между облаком и локальной нейросетью, начните с обзора локальных нейросетей, здесь речь только про Ollama.

Где скачать Ollama?

Официальный адрес — ollama.com, раздел Download. Сайт ollama.com также хранит библиотеку моделей и страницу тарифов облака. Сторонние сборки и «портативные версии» с чужих сайтов не нужны: установщик официальный и бесплатный.

Как установить Ollama на Windows?

На Windows есть два пути. Первый — скачать OllamaSetup.exe со страницы загрузки и запустить. Второй — команда в PowerShell:

irm https://ollama.com/install.ps1 | iex

Права администратора установщику не нужны, программа ставится в домашнюю папку пользователя. По документации нужна Windows 10 22H2 или новее (Home или Pro), для видеокарт NVIDIA драйвер 551.61 или новее. Для самой программы документация требует не меньше 4 ГБ на диске, каждая модель добавляет от сотен мегабайт до сотен гигабайт.

Модели по умолчанию лежат в C:\Users\%username%\.ollama\models. Если диск C маленький, задайте переменную окружения OLLAMA_MODELS с путем к другой папке и перезапустите Ollama из меню Пуск.

Как установить Ollama на Mac и Linux?

Для macOS и Linux официальная команда одна:

curl -fsSL https://ollama.com/install.sh | sh

На Mac можно поставить и приложение из образа ollama.dmg, перетащив его в папку «Программы». Нужна macOS Sonoma 14 или новее. На процессорах Apple M модель считается на CPU и GPU, на старых Intel-маках модель считается только на процессоре, и это заметно медленнее. Модели и настройки лежат в ~/.ollama.

На Linux модели хранятся в /usr/share/ollama/.ollama/models. Если меняете папку через OLLAMA_MODELS, у системного пользователя ollama должны быть права на чтение и запись.

После установки на любой системе проверьте работу командой ollama run qwen3.5: она скачает модель и откроет чат. Выход из чата — команда /bye.

Какие модели Ollama скачать под вашу память?

Главное ограничение — объем видеопамяти или общей памяти на Mac. Модель целиком должна поместиться в память, плюс место под контекст. Размеры ниже взяты со страниц библиотеки ollama.com на 29 октября 2026 года. Там, где указан диапазон, меньшая цифра означает размер файла, большая — занимаемую память.

Для агентов берите модели с пометкой tools на странице модели. Без поддержки инструментов агент не сможет читать файлы и запускать команды.

8 ГБ памяти

• qwen3.5:4b, 3,3–4,0 ГБ. Текст и картинки, режим размышления, инструменты, контекст до 256 тыс. токенов.
• gemma4:e2b, 4,6–7,5 ГБ. Модель Google с картинками и инструментами. Документация Ollama советует для нее 8 ГБ свободной видеопамяти.
• qwen3.5:2b, 2,7–3,1 ГБ. Если памяти совсем мало.

На 8 ГБ агент для кода работать будет медленно и путаться в длинных задачах. Для чата, перевода и коротких скриптов этого хватает.

16 ГБ памяти

• qwen3.5:9b, 6,6–7,6 ГБ. Эта версия скачивается по умолчанию командой ollama run qwen3.5.
• gemma4:12b, 7,7–8,0 ГБ, контекст 256 тыс. токенов.
• ministral-3:14b, 9,1 ГБ. Модель Mistral с картинками и инструментами.
• gpt-oss:20b, 14 ГБ. Открытая модель OpenAI. На 16 ГБ места под длинный контекст почти не останется.

24–32 ГБ памяти

• gpt-oss:20b, 14 ГБ, с запасом под контекст 64 тыс. токенов.
• qwen3.6:27b, 18–19 ГБ. Свежая версия Qwen с упором на агентное программирование.
• qwen3-coder, 19 ГБ. Модель для кода с контекстом 256 тыс. токенов.
• gemma4:26b и gemma4:31b, 16–20 ГБ.
• nemotron-3-nano:30b, 18–24 ГБ. Модель NVIDIA с контекстом до 1 млн токенов.

64 ГБ и больше

• qwen3-coder-next, 52 ГБ.
• gpt-oss:120b, 65 ГБ.
• qwen3.5:122b, 81 ГБ.

У многих моделей на Mac есть отдельные теги для движка MLX, например qwen3.5:9b-mlx или gemma4:12b-mlx. Библиотека пополняется регулярно: 27 октября в библиотеку добавили семейство LFM3 от Liquid AI, начиная с модели на 1,7 млрд параметров. Полный список — на странице ollama.com/search.

Какие модели Qwen есть в Ollama?

Qwen в Ollama скачивают чаще других семейств, поэтому о нем отдельный раздел. На 29 октября в библиотеке четыре актуальные линейки Qwen:

• qwen3.5 в размерах 0.8b, 2b, 4b, 9b, 27b, 35b и 122b, все понимают картинки и вызывают инструменты. У страницы 23,7 млн скачиваний.
• qwen3.6 в версиях 27b и 35b, 18–24 ГБ. Это первая открытая модель серии 3.6.
• qwen3-coder, модель для кода на 19 ГБ, есть и облачная версия.
• qwen3-coder-next на 52 ГБ для серверов и рабочих станций.

Что умеет Qwen за пределами Ollama и где еще его запускать, я разбираю в статье Qwen: нейросеть от Alibaba.

Как настроить контекст Ollama для агентов?

На контексте ошибаются чаще всего. Контекст по умолчанию зависит от видеопамяти. Если ее меньше 24 ГБ, Ollama выделяет 4 тыс. токенов. При 24–48 ГБ она выделяет 32 тыс., при 48 ГБ и больше 256 тыс. Агенту для кода нужно от 64 тыс. токенов, иначе он теряет начало задачи.

Поднять контекст можно ползунком в настройках приложения или переменной при запуске сервера:

OLLAMA_CONTEXT_LENGTH=64000 ollama serve

Проверка — команда ollama ps. В колонке CONTEXT виден выделенный контекст, в колонке PROCESSOR — где считается модель. Если там часть на CPU, модель не поместилась в видеопамять и будет отвечать медленно: возьмите версию меньше или уменьшите контекст.

Как работает Ollama API?

Запущенная Ollama слушает адрес http://localhost:11434. На нем три вида API:

• собственный API Ollama;
• совместимый с OpenAI по адресу http://localhost:11434/v1/: Chat Completions, Responses, Embeddings, список моделей, синтез и распознавание речи;
• совместимый с Anthropic, эндпоинт /v1/messages.

Ключ для локального режима не нужен. Библиотеки OpenAI требуют какое-то значение, поэтому документация советует передавать api_key='ollama', сервер его игнорирует. Проверочный запрос в одну строку:

curl http://localhost:11434/v1/chat/completions -H "Content-Type: application/json" -d '{"model":"qwen3.5","messages":[{"role":"user","content":"Привет"}]}'

По умолчанию Ollama доступна только с вашего компьютера, адрес 127.0.0.1. Переменная OLLAMA_HOST открывает ее для локальной сети. Делайте это только в доверенной сети: аутентификации у локального API нет, и любой в сети сможет гонять модель на вашем железе.

Как подключить Ollama к Claude Code, Codex и OpenCode?

У Ollama есть команда ollama launch, которая сама настраивает агента на локальную модель. Запускать ее нужно из папки проекта:

• ollama launch claude запускает Claude Code. Если агент не установлен, Ollama предложит его поставить.
• ollama launch codex запускает Codex CLI, его нужно поставить заранее.
• ollama launch opencode запускает OpenCode.

Claude Code вручную

Claude Code умеет говорить с Ollama через Anthropic-совместимый API. По документации Ollama нужны три переменные: ANTHROPIC_BASE_URL=http://localhost:11434, ANTHROPIC_AUTH_TOKEN=ollama и пустой ANTHROPIC_API_KEY. Затем запуск с моделью:

claude --model qwen3.5

В таком режиме Claude Code отправляет запросы в Ollama на ваш компьютер, подписка Anthropic не участвует. Как поставить сам агент, я рассказываю в инструкции как установить Claude Code, карточка агента — Claude Code.

Codex

Для Codex хватает флага --oss: codex --oss -m gpt-oss:20b. Команда ollama launch codex --config сохраняет профиль в ~/.codex/ollama-launch.config.toml, потом агент запускается командой codex --profile ollama-launch. Codex требует контекст от 64 тыс. токенов. Карточка агента — Codex CLI.

OpenCode и Cline

OpenCode настраивается через ollama launch opencode, подробности об агенте в статье OpenCode: установка и настройка. В Cline в настройках выберите провайдера Ollama с адресом http://localhost:11434 и модель из выпадающего списка. Документация Cline советует для локальных моделей включить Use Compact Prompt и держать задачи узкими.

Если агент не поддерживает Ollama напрямую, поможет Claude Code Router. Это локальный шлюз, который переключает Claude Code, Codex и OpenCode между провайдерами и резервными моделями.

Как подключить MCP-серверы к локальной модели Ollama?

Сама Ollama отдает только модель. MCP-серверы подключаются к агенту или клиенту, который работает поверх Ollama, поэтому сначала выберите клиент. Модель должна поддерживать инструменты, иначе вызовов MCP не будет.

Клиенты из каталога, которые работают с Ollama и MCP:

• MCP Client for Ollama (ollmcp), 834 ★ репозитория. Терминальный клиент с режимом агента, подтверждением действий человеком и транспортами stdio, SSE и streamable HTTP. Ставится из PyPI как ollmcp.
• oterm, 2445 ★ репозитория. Чат в терминале, который сам находит запущенную Ollama на 127.0.0.1:11434 и подключает MCP-серверы.
• MCP-LLM Bridge, 984 ★ репозитория. Мост, в котором модель Ollama сама выбирает, какой из подключенных серверов вызвать.

Серверы для первого подключения к локальной модели:

• Context7, 63 873 ★ репозитория. Свежая документация библиотек нужной версии, только чтение.
• Minima, 1056 ★ репозитория. Локальный поиск по вашим документам, индекс остается на машине и работает с Ollama.
• Playwright MCP, 38 768 ★ репозитория. Управление браузером. Уровень доступа средний, потому что агент открывает любые сайты и может отправлять формы.

В Cline, Claude Code и OpenCode сервер ставится нашим CLI, например npx skillfoxx add mcp/context7 --agent cline. До установки CLI показывает уровень доступа и файл, в который допишет сервер. Начинайте с одного сервера только для чтения: локальная модель на 8–9 млрд параметров хуже облачной выбирает инструмент, и лишние серверы забивают ей контекст.

Что такое Ollama Cloud и сколько стоит?

Модели с тегом :cloud не скачиваются, они работают на серверах Ollama через ваш аккаунт. Это способ попробовать большие модели вроде gpt-oss:120b-cloud или gemma4:cloud на слабом ноутбуке. Тарифы на 29 октября 2026 года:

• Pay as you go, 0 долларов в месяц, оплата облака по токенам, 3 одновременных запроса.
• Pro, 20 долларов в месяц или 200 в год, 60 долларов кредитов на облако ежемесячно, доступ к большим моделям.
• Max, 100 долларов в месяц, 300 долларов кредитов, 10 одновременных запросов.
• Team, 500 долларов в месяц, кредиты на команду, ранний доступ.

Локальный запуск на своем железе бесплатный и без ограничений на любом тарифе. Судя по странице тарифов, облако Ollama не пишет логи запросов и не обучается на них, серверы стоят в основном в США. Если обрабатываете персональные данные клиентов, учтите это: такие данные уйдут за границу, для них безопаснее локальная модель.

Чем Ollama отличается от LM Studio?

Обе программы запускают открытые модели локально и отдают их по API, совместимому с OpenAI и Anthropic. Ollama ставится и управляется из терминала, поэтому ее проще поднять на сервере: одна команда установки, ollama launch для агентов, облачные модели в том же интерфейсе. LM Studio дает окно с поиском моделей на Hugging Face, ползунками настроек и встроенной поддержкой MCP прямо в чате. Подробный разбор второй программы — в статье LM Studio: как скачать и подключить MCP.

Короткий глоссарий

• Локальная модель — нейросеть, файлы которой лежат на вашем диске и считаются на вашем железе.
• Контекст — объем текста, который модель держит в памяти за один запрос, его измеряют в токенах.
• Тег модели — версия после двоеточия, например qwen3.5:9b, где 9b означает 9 млрд параметров.
• Tools — поддержка вызова инструментов, без нее модель не работает в агенте.
• MLX — движок Apple для вычислений на чипах M, у Ollama для него отдельные теги.

Что дальше

Поставьте Ollama, скачайте одну модель под вашу память и проверьте ollama ps, что она целиком в видеопамяти. Потом подключите агента через ollama launch и один MCP-сервер из каталога MCP-серверов. Если не знаете, с какого начать, Foxx AI на странице подбора предложит набор под ваш проект. Как устроены сами серверы, я объясняю в статье что такое MCP-сервер.