cascadeflow — скилл
Скилл и MCP-сервер cascadeflow: сначала отвечает дешевая модель, дорогая подключается при сомнении, бюджет под контролем
- 3 926 ★ репозитория
- Последний коммит
- MIT
Расширенный доступ
Почему такой уровень
- Передает запросы нескольким провайдерам моделей по вашим ключам
- Меняет, какая модель отвечает пользователю
Установка
- Работает в
В терминале, через SkillFoxx CLI
npx skillfoxx add skills/cascadeflowОпределит агенты на машине, покажет уровень доступа и зафиксирует версию.
Другие способы установки
Доступ и проверки
Как мы проверяемРасширенный доступИнструмент запускает код или ходит в сеть, а внешние данные только читает.
- Передает запросы нескольким провайдерам моделей по вашим ключам
- Меняет, какая модель отвечает пользователю
Это чужой код. Посмотрите файлы в репозитории перед установкой.
Что делает
cascadeflow — слой управления внутри цикла агента, а не прокси на границе HTTP. Он принимает решения на каждом шаге: какая модель ответит, не превышен ли бюджет, пройдена ли проверка политики. Базовый прием: сначала дешевая «черновая» модель, затем проверка качества и подключение сильной модели только при необходимости. Скилл `cascadeflow` из каталога `skills` учит агента использовать `CascadeAgent`, `ModelConfig`, `cascadeflow.init`, `cascadeflow.run`, подбирать пары моделей и подключать слой к LangChain, OpenAI Agents, CrewAI, PydanticAI, Google ADK, n8n и Vercel AI SDK. Отдельно есть MCP-сервер, который отдает маршрутизацию как инструмент клиентам вроде Claude.
Для кого. Разработчикам агентов на Python и TypeScript, у которых счет за модели растет, а простые запросы идут к самой дорогой модели.
Подходит, если
- Счет за вызовы модели растет, а большая часть запросов простая.
- Агент в цикле должен остановиться при превышении бюджета.
- Нужен журнал решений: какая модель отвечала и почему.
- Слой маршрутизации добавляют в существующий проект на LangChain или CrewAI.
- Разные скиллы агента требуют разных моделей и уровней рассуждения.
Не подходит, если
- Агент вызывает одну модель и счет невелик.
- Нужен внешний шлюз с единым ключом для всех команд.
- Качество важнее цены, и сильная модель нужна на каждый запрос.
Пример запроса к агенту
Добавь cascadeflow в наш агент на LangChain: черновая модель дешевая, проверка качества включена, потолок бюджета 2 доллара на запуск.Ограничения
Цифры экономии в README получены на тестовых наборах MT-Bench, GSM8K, MMLU и TruthfulQA; на вашей нагрузке результат другой, поэтому сначала включите режим наблюдения. Слой работает в процессе агента, поэтому требует правки кода и не заменяет сетевой шлюз. MCP-вариант добавляет к вызову ход хост-модели, и это время учитывают в экономике. Для семантической проверки нужны дополнительные пакеты, `cascadeflow[semantic]` тянет модель около 80 МБ.
Как отключить. Удалите вызов `cascadeflow.init` и зависимость из проекта командой `pip uninstall cascadeflow`. Скилл уберите из каталога скиллов агента, MCP-запись из конфигурации клиента.
Частые вопросы
Как установить?
Для Python выполните `pip install cascadeflow`, для TypeScript поставьте `@cascadeflow/core`. Скилл лежит в `skills/cascadeflow` и копируется в каталог скиллов агента.
Это прокси?
Нет. Слой работает внутри процесса агента и видит каждый вызов модели и инструмента, поэтому решает по состоянию цикла, а не по одному HTTP-запросу.
Как подключить MCP?
Установите `pip install "cascadeflow[mcp]"` и создайте сервер через `create_mcp_server`. Для локального клиента запуск идет по stdio, для удаленного по streamable-http.
С какими фреймворками работает?
LangChain, OpenAI Agents SDK, CrewAI, PydanticAI, Google ADK, n8n и Vercel AI SDK. Есть интеграция с Hermes Agent.
Как проверить экономию на своих данных?
Включите режим наблюдения: слой пишет решения, но не меняет ответы. По журналу видно, где дешевая модель справилась бы сама.
Обсуждение
Вопросов и отзывов пока нет.
Похожие
СкиллыЛокальный MCP-сервер хранит скиллы как версии и пускает улучшенные варианты в работу только после проверки человеком
Скилл, плагин и MCP-сервер: быстрые модели Jev и Laya решают выбор вместо дорогого чата в браузере, играх и роутинге тикетов.
Скилл и MCP-сервер Ollaya: агент задает локальным моделям решений типизированные вопросы и получает вероятности без вызова LLM
Плагин Roboflow дает агенту навыки по компьютерному зрению: данные, обучение, проверка моделей, инференс и вызовы API.
Консольный агент и Python-фреймворк с поддержкой MCP, SKILL.md и ACP: кодинг в терминале, сборка и проверка своих агентов
Один агент запускает других в фоне: Claude Code, Codex, Copilot CLI, Grok Build и Pi, с выбором модели под каждый этап.
Коротко о README
README подает cascadeflow как слой интеллекта в цикле агента с накладными расходами меньше 5 мс. Показаны примеры на Python и TypeScript и таблица интеграций.