Tracely — скилл
Скилл учит Claude Code и Cursor подключать трассировку Tracely и превращать провальные запуски агента в тесты для CI
- 1 041 ★ репозитория
- Последний коммит
- MIT
Расширенный доступ
Почему такой уровень
- Трассы содержат входы, выходы и вызовы инструментов агента, а значит могут включать данные пользователей
- Ключ рабочего пространства открывает через MCP чтение трасс и создание оценщиков для проекта
- Скилл правит код агента, вызывая `init(...)` и декораторы, поэтому изменения нужно просматривать
Установка
- Работает в
В терминале, через SkillFoxx CLI
npx skillfoxx add skills/tracelyОпределит агенты на машине, покажет уровень доступа и зафиксирует версию.
Другие способы установки
Доступ и проверки
Как мы проверяемРасширенный доступИнструмент запускает код или ходит в сеть, а внешние данные только читает.
- Трассы содержат входы, выходы и вызовы инструментов агента, а значит могут включать данные пользователей
- Ключ рабочего пространства открывает через MCP чтение трасс и создание оценщиков для проекта
- Скилл правит код агента, вызывая `init(...)` и декораторы, поэтому изменения нужно просматривать
Это чужой код. Посмотрите файлы в репозитории перед установкой.
Что делает
Tracely оценивает каждую трассу ИИ-агента, группирует сбои в проблемы, замораживает неудачные запуски в воспроизводимые тесты и блокирует pull request, который вернул бы сбой. Источник истины здесь трасса, а датасетов, написанных вручную, нет: тест берется из реального запуска, поэтому повтор в CI не тратит деньги на живые вызовы модели. Скилл `tracely` лежит в каталоге `skills/tracely` и описывает агенту все способы подключения. Сначала он выбирает путь по коду пользователя: автоматическая трассировка одной строкой `init(instrument="auto")` для SDK OpenAI, Anthropic и Gemini, расширения для LangChain, LangGraph, LlamaIndex, CrewAI и LiteLLM, декоратор `@observe` для своей логики или ручные контекстные менеджеры. Для TypeScript, Go и Ruby он советует передавать OTLP напрямую. Есть разделы про оценщиков, CI-шлюз и поиск неисправностей. Отдельно проект открывает MCP-эндпоинт `/mcp`: Claude Code и Cursor читают трассы, смотрят кластеры сбоев и добавляют столбцы оценки. Весь стек, то есть API, воркер, интерфейс, Postgres, ClickHouse, Redis и MinIO, поднимается у себя или развертывается в Railway.
Для кого. Для разработчиков ИИ-агентов на Python, которые хотят подключить трассировку и проверку регрессий одной просьбой к агенту для кода.
Подходит, если
- Нужно добавить трассировку в агента на OpenAI Agents SDK, Claude Agent SDK, LangGraph или LiteLLM
- Продакшен-запуск сломался, и его нужно заморозить в тест, который воспроизводится в CI без вызовов модели
- Нужно добавить в pull request проверку, блокирующую слияние при регрессии агента
- Нужно спросить Claude Code, что чаще всего ломается в последних 20 трассах, и получить новый столбец оценки через MCP
Не подходит, если
- Нужен только локальный просмотр вызовов модели без CI и тестов: хватит облегченного логирования
- Агент написан не на Python и вы не готовы отправлять OTLP вручную: автоматическая трассировка работает через Python SDK
- Данные трасс нельзя хранить даже в своей базе: Tracely сохраняет входы, выходы и вызовы инструментов
- Нужно удалять данные или менять биллинг через агента: MCP-эндпоинт этого не умеет
Пример запроса к агенту
Добавь Tracely в этого агента: подключи автоматическую трассировку, настрой оценщиков и добавь проверку в CIОграничения
Автоматическая трассировка опирается на Python SDK `tracelyai-sdk`. Для запуска всего стека нужны Postgres, ClickHouse, Redis и MinIO. Частые ошибки подключения портят данные без предупреждений: нет идентификатора разговора, ошибка инструмента проглочена, не вызван `flush()`. В состязательном сценарии логика обратная: если агент достиг цели, значит атака удалась. Документация лежит на сайте doc.tracely-ai.com.
Как отключить. Удалите скилл из каталога скиллов агента (папка `tracely`) и MCP-сервер командой `claude mcp remove tracely`. Из кода уберите вызов `init(...)` и пакет `tracelyai-sdk`.
Частые вопросы
Как поставить скилл Tracely в Claude Code?
Выполните `npx skills add https://github.com/jwuthri-cloud/Tracely-ai --skill tracely`. Флаг `-g` ставит скилл глобально, а `--agent '*'` для всех агентов на машине. Он работает с Claude Code, Cursor, Copilot, Antigravity и другими клиентами `skills`.
Как подключить MCP-сервер Tracely?
Командой `claude mcp add --transport http tracely https://api.tracely-ai.com/mcp --header "Authorization: Bearer $TRACELY_KEY"`. Для своего сервера подставьте его адрес, например `http://localhost:8000/mcp` из docker-compose. Ключом служит ключ приема трасс вашего рабочего пространства.
Какие инструменты дает MCP Tracely?
Просмотр и поиск трасс (`list_traces`, `get_trace`, `search_traces`), кластеры сбоев, оценщики с созданием и правкой столбцов, а также метрики трендов и работы. Удалять данные и менять биллинг, ключи и настройки инструмент не может.
Чем Tracely отличается от обычных систем оценки?
Тесты не пишут вручную. Tracely берет трассу настоящего сбоя и воспроизводит ее в каждом pull request, без живых вызовов модели. Оценки, кластеры, вердикты CI и оповещения тоже выводятся из трассы.
Можно ли запустить Tracely у себя?
Да. API, воркер, интерфейс, Postgres, ClickHouse, Redis и MinIO поднимаются у вас, есть также шаблон Railway. В репозитории лежат манифесты для Coolify и EKS.
Обсуждение
Вопросов и отзывов пока нет.
Похожие
СкиллыCaliper прогоняет задачи агента с вашим скиллом и без него и показывает, помогает ли скилл и сколько токенов он стоит
Скилл ведет Claude Code и Codex через пишущий и чинящий цикл автотестов API на pytest с проверкой реальным запуском.
agentevals оценивает поведение ИИ-агента по его OpenTelemetry-трассам и отдает MCP-инструменты и навыки /eval и /inspect.
MCP-сервер и скилл scryer: агент пишет план тестами-черновиками, C4-карта строится по коду и тестам без ручной документации.
Локальный отладчик TypeScript-агентов: дерево шагов, проверка траектории в CI и архив доказательств без аккаунта.
Скилл и агент-тестировщик для Claude Code: проверяют интерфейс 1С через MCP-сервер 1c-testpilot с доказательствами
Сравнение с похожими
Карточки с тем же главным запросом: чем они отличаются.
| Инструмент | Официальный | Авторизация | Звезды репозитория | Главное отличие |
|---|---|---|---|---|
| Tracely (эта карточка) | нет | 1 041 | ||
| Arize Phoenix | да | OAuth | 12 177 | платформа наблюдаемости и оценки, тесты из трасс для CI там не строятся автоматически |
| Скиллы LangSmith | нет | 165 | скиллы для экосистемы LangSmith, а Tracely привязан к трассам и CI-шлюзу |
Коротко о README
Tracely — стек наблюдаемости и CI для ИИ-агентов с SDK на Python, MCP-эндпоинтом, GitHub Action `tracely-gate` и скиллом для кодирующих агентов. Лицензия MIT, SDK публикуется на PyPI под именем `tracelyai-sdk`.
Бейдж для README
Исходный SKILL.md
---
name: tracely
description: Instrument AI agents with Tracely and turn their production traces into CI gates. Use when the user mentions Tracely, tracelyai-sdk, tracely_sdk, the `tracely` CLI, or asks to trace/observe an AI agent, add LLM evaluators or LLM-as-a-judge columns, debug why a trace or conversation isn't showing up, wire agent regression tests into a PR check, run scenario or red-team suites against an agent endpoint, or replay recorded agent failures in CI. Covers both zero-span-code automatic instrumentation and the manual span API.
license: MIT
---
# Tracely
Trace-native CI/CD for AI agents. One loop:
```
production trace → failure detection → regression test → CI gate
```
The trace is the source of truth. Evaluators, failure clusters, regression cases, gates and trends
are all **derived from it** — there are no hand-authored datasets. Docs: <https://doc.tracely-ai.com>.
## Pick the path first
Do not start writing spans. Ask what the code already looks like, then pick:
| The user's code | Path | Effort |
|---|---|---|
| Calls OpenAI / Anthropic / Gemini / Mistral / Bedrock / Groq SDKs | **Automatic** — `init(instrument="auto")` | 1 line |
| Uses LangChain / LangGraph / LlamaIndex / CrewAI / LiteLLM | **Automatic** + that extra | 1 line |
| Uses OpenAI Agents SDK / Claude Agent SDK / Google ADK | **Automatic**, named explicitly | 1 line |
| Has business logic worth seeing (routers, tools, retrievers) | Automatic **+ `@observe`** | 1 decorator each |
| Needs spans the auto path can't produce (custom retrievers, guardrails, handoffs, multimodal I/O, hand-rolled providers) | **Manual context managers** | `references/manual.md` |
| Is TypeScript / Go / Ruby / anything not Python | **Emit OTLP directly** — no SDK | `references/automatic.md` § other languages |
| Already emits OpenTelemetry / OpenInference / OpenLLMetry | Point the existing exporter at Tracely, add 2 attributes | `references/automatic.md` § other languages |
**Default to automatic.** Manual spans are the escape hatch, not the starting point, and the two
compose — manual spans nest inside auto-instrumented traces in the same tree.
## Connect
```python
import tracely_sdk as tracely # pip install "tracelyai-sdk[openai]" ([anthropic] [langchain] [all])
tracely.init(
endpoint="http://localhost:8000", # hosted: https://api.tracely-ai.com
api_key="tracely_dev_key", # an ingest key — Settings → API keys. The key IS the workspace.
service_name="support-agent",
env="prod", # prod | staging | ci | dev — the gating axis
instrument="auto",
)
```
Python ≥ 3.10. Import name is `tracely_sdk`; the CLI is `tracely`. `init()` is idempotent — call it
once at startup. Prefer `os.environ` for `endpoint`/`api_key` in real code; never inline a key.
## The 90% path
```python
with tracely.trace(agent="support-agent", conversation="conv-1", user="u_42"):
client.chat.completions.create(model="gpt-4o", messages=[...]) # traced, no span code
```
`trace()` opens no span — it stamps run context (`agent`, `conversation`, `turn`, `user`, `env`,
arbitrary metadata) onto **every** span inside it, including the ones the instrumentor created.