Tracely — скилл

Скилл учит Claude Code и Cursor подключать трассировку Tracely и превращать провальные запуски агента в тесты для CI

  • 1 041 ★ репозитория
  • Последний коммит
  • MIT
Скилл

Расширенный доступ

Почему такой уровень

  • Трассы содержат входы, выходы и вызовы инструментов агента, а значит могут включать данные пользователей
  • Ключ рабочего пространства открывает через MCP чтение трасс и создание оценщиков для проекта
  • Скилл правит код агента, вызывая `init(...)` и декораторы, поэтому изменения нужно просматривать
Все причины и проверки

jwuthri-cloud/tracely-ai

Установка

В терминале, через SkillFoxx CLI

npx skillfoxx add skills/tracely

Определит агенты на машине, покажет уровень доступа и зафиксирует версию.

Другие способы установки

Доступ и проверки

Как мы проверяем

Расширенный доступИнструмент запускает код или ходит в сеть, а внешние данные только читает.

  • Трассы содержат входы, выходы и вызовы инструментов агента, а значит могут включать данные пользователей
  • Ключ рабочего пространства открывает через MCP чтение трасс и создание оценщиков для проекта
  • Скилл правит код агента, вызывая `init(...)` и декораторы, поэтому изменения нужно просматривать

Это чужой код. Посмотрите файлы в репозитории перед установкой.

Что делает

Tracely оценивает каждую трассу ИИ-агента, группирует сбои в проблемы, замораживает неудачные запуски в воспроизводимые тесты и блокирует pull request, который вернул бы сбой. Источник истины здесь трасса, а датасетов, написанных вручную, нет: тест берется из реального запуска, поэтому повтор в CI не тратит деньги на живые вызовы модели. Скилл `tracely` лежит в каталоге `skills/tracely` и описывает агенту все способы подключения. Сначала он выбирает путь по коду пользователя: автоматическая трассировка одной строкой `init(instrument="auto")` для SDK OpenAI, Anthropic и Gemini, расширения для LangChain, LangGraph, LlamaIndex, CrewAI и LiteLLM, декоратор `@observe` для своей логики или ручные контекстные менеджеры. Для TypeScript, Go и Ruby он советует передавать OTLP напрямую. Есть разделы про оценщиков, CI-шлюз и поиск неисправностей. Отдельно проект открывает MCP-эндпоинт `/mcp`: Claude Code и Cursor читают трассы, смотрят кластеры сбоев и добавляют столбцы оценки. Весь стек, то есть API, воркер, интерфейс, Postgres, ClickHouse, Redis и MinIO, поднимается у себя или развертывается в Railway.

Для кого. Для разработчиков ИИ-агентов на Python, которые хотят подключить трассировку и проверку регрессий одной просьбой к агенту для кода.

Подходит, если

  • Нужно добавить трассировку в агента на OpenAI Agents SDK, Claude Agent SDK, LangGraph или LiteLLM
  • Продакшен-запуск сломался, и его нужно заморозить в тест, который воспроизводится в CI без вызовов модели
  • Нужно добавить в pull request проверку, блокирующую слияние при регрессии агента
  • Нужно спросить Claude Code, что чаще всего ломается в последних 20 трассах, и получить новый столбец оценки через MCP

Не подходит, если

  • Нужен только локальный просмотр вызовов модели без CI и тестов: хватит облегченного логирования
  • Агент написан не на Python и вы не готовы отправлять OTLP вручную: автоматическая трассировка работает через Python SDK
  • Данные трасс нельзя хранить даже в своей базе: Tracely сохраняет входы, выходы и вызовы инструментов
  • Нужно удалять данные или менять биллинг через агента: MCP-эндпоинт этого не умеет

Пример запроса к агенту

Добавь Tracely в этого агента: подключи автоматическую трассировку, настрой оценщиков и добавь проверку в CI

Ограничения

Автоматическая трассировка опирается на Python SDK `tracelyai-sdk`. Для запуска всего стека нужны Postgres, ClickHouse, Redis и MinIO. Частые ошибки подключения портят данные без предупреждений: нет идентификатора разговора, ошибка инструмента проглочена, не вызван `flush()`. В состязательном сценарии логика обратная: если агент достиг цели, значит атака удалась. Документация лежит на сайте doc.tracely-ai.com.

Как отключить. Удалите скилл из каталога скиллов агента (папка `tracely`) и MCP-сервер командой `claude mcp remove tracely`. Из кода уберите вызов `init(...)` и пакет `tracelyai-sdk`.

Частые вопросы

Как поставить скилл Tracely в Claude Code?

Выполните `npx skills add https://github.com/jwuthri-cloud/Tracely-ai --skill tracely`. Флаг `-g` ставит скилл глобально, а `--agent '*'` для всех агентов на машине. Он работает с Claude Code, Cursor, Copilot, Antigravity и другими клиентами `skills`.

Как подключить MCP-сервер Tracely?

Командой `claude mcp add --transport http tracely https://api.tracely-ai.com/mcp --header "Authorization: Bearer $TRACELY_KEY"`. Для своего сервера подставьте его адрес, например `http://localhost:8000/mcp` из docker-compose. Ключом служит ключ приема трасс вашего рабочего пространства.

Какие инструменты дает MCP Tracely?

Просмотр и поиск трасс (`list_traces`, `get_trace`, `search_traces`), кластеры сбоев, оценщики с созданием и правкой столбцов, а также метрики трендов и работы. Удалять данные и менять биллинг, ключи и настройки инструмент не может.

Чем Tracely отличается от обычных систем оценки?

Тесты не пишут вручную. Tracely берет трассу настоящего сбоя и воспроизводит ее в каждом pull request, без живых вызовов модели. Оценки, кластеры, вердикты CI и оповещения тоже выводятся из трассы.

Можно ли запустить Tracely у себя?

Да. API, воркер, интерфейс, Postgres, ClickHouse, Redis и MinIO поднимаются у вас, есть также шаблон Railway. В репозитории лежат манифесты для Coolify и EKS.

Обсуждение

Вопросов и отзывов пока нет.

Скиллы

Caliper прогоняет задачи агента с вашим скиллом и без него и показывает, помогает ли скилл и сколько токенов он стоит

CLIРасширенный доступ228Звезды репозитория

Скилл ведет Claude Code и Codex через пишущий и чинящий цикл автотестов API на pytest с проверкой реальным запуском.

СкиллРасширенный доступ172Звезды репозитория

agentevals оценивает поведение ИИ-агента по его OpenTelemetry-трассам и отдает MCP-инструменты и навыки /eval и /inspect.

CLIРасширенный доступ168Звезды репозитория

MCP-сервер и скилл scryer: агент пишет план тестами-черновиками, C4-карта строится по коду и тестам без ручной документации.

MCP-серверРасширенный доступ122Звезды репозитория

Локальный отладчик TypeScript-агентов: дерево шагов, проверка траектории в CI и архив доказательств без аккаунта.

CLIРасширенный доступ212Звезды репозитория
Российский стек

Скилл и агент-тестировщик для Claude Code: проверяют интерфейс 1С через MCP-сервер 1c-testpilot с доказательствами

СкиллРасширенный доступ22Звезды репозитория

Сравнение с похожими

Карточки с тем же главным запросом: чем они отличаются.

ИнструментОфициальныйАвторизацияЗвезды репозиторияГлавное отличие
Tracely (эта карточка)нет1 041
Arize PhoenixдаOAuth12 177платформа наблюдаемости и оценки, тесты из трасс для CI там не строятся автоматически
Скиллы LangSmithнет165скиллы для экосистемы LangSmith, а Tracely привязан к трассам и CI-шлюзу

Коротко о README

Tracely — стек наблюдаемости и CI для ИИ-агентов с SDK на Python, MCP-эндпоинтом, GitHub Action `tracely-gate` и скиллом для кодирующих агентов. Лицензия MIT, SDK публикуется на PyPI под именем `tracelyai-sdk`.

Бейдж для README

Исходный SKILL.md

---
name: tracely
description: Instrument AI agents with Tracely and turn their production traces into CI gates. Use when the user mentions Tracely, tracelyai-sdk, tracely_sdk, the `tracely` CLI, or asks to trace/observe an AI agent, add LLM evaluators or LLM-as-a-judge columns, debug why a trace or conversation isn't showing up, wire agent regression tests into a PR check, run scenario or red-team suites against an agent endpoint, or replay recorded agent failures in CI. Covers both zero-span-code automatic instrumentation and the manual span API.
license: MIT
---

# Tracely

Trace-native CI/CD for AI agents. One loop:

```
production trace → failure detection → regression test → CI gate
```

The trace is the source of truth. Evaluators, failure clusters, regression cases, gates and trends
are all **derived from it** — there are no hand-authored datasets. Docs: <https://doc.tracely-ai.com>.

## Pick the path first

Do not start writing spans. Ask what the code already looks like, then pick:

| The user's code | Path | Effort |
|---|---|---|
| Calls OpenAI / Anthropic / Gemini / Mistral / Bedrock / Groq SDKs | **Automatic** — `init(instrument="auto")` | 1 line |
| Uses LangChain / LangGraph / LlamaIndex / CrewAI / LiteLLM | **Automatic** + that extra | 1 line |
| Uses OpenAI Agents SDK / Claude Agent SDK / Google ADK | **Automatic**, named explicitly | 1 line |
| Has business logic worth seeing (routers, tools, retrievers) | Automatic **+ `@observe`** | 1 decorator each |
| Needs spans the auto path can't produce (custom retrievers, guardrails, handoffs, multimodal I/O, hand-rolled providers) | **Manual context managers** | `references/manual.md` |
| Is TypeScript / Go / Ruby / anything not Python | **Emit OTLP directly** — no SDK | `references/automatic.md` § other languages |
| Already emits OpenTelemetry / OpenInference / OpenLLMetry | Point the existing exporter at Tracely, add 2 attributes | `references/automatic.md` § other languages |

**Default to automatic.** Manual spans are the escape hatch, not the starting point, and the two
compose — manual spans nest inside auto-instrumented traces in the same tree.

## Connect

```python
import tracely_sdk as tracely   # pip install "tracelyai-sdk[openai]"  ([anthropic] [langchain] [all])

tracely.init(
    endpoint="http://localhost:8000",   # hosted: https://api.tracely-ai.com
    api_key="tracely_dev_key",          # an ingest key — Settings → API keys. The key IS the workspace.
    service_name="support-agent",
    env="prod",                         # prod | staging | ci | dev — the gating axis
    instrument="auto",
)
```

Python ≥ 3.10. Import name is `tracely_sdk`; the CLI is `tracely`. `init()` is idempotent — call it
once at startup. Prefer `os.environ` for `endpoint`/`api_key` in real code; never inline a key.

## The 90% path

```python
with tracely.trace(agent="support-agent", conversation="conv-1", user="u_42"):
    client.chat.completions.create(model="gpt-4o", messages=[...])   # traced, no span code
```

`trace()` opens no span — it stamps run context (`agent`, `conversation`, `turn`, `user`, `env`,
arbitrary metadata) onto **every** span inside it, including the ones the instrumentor created.

Сообщить о проблеме

Foxx AITracely
Foxx AI

Я Foxx AI и уже разобрал этот инструмент. Спросите про установку, настройку или что угодно еще, отвечу простыми словами.