fastCRW MCP

Сервер на Rust превращает страницы в Markdown или JSON: поиск, скрейпинг, карта сайта, обход и PDF через MCP, CLI и API, совместимый с Firecrawl

  • 1 172 ★ репозитория
  • Последний коммит
  • AGPL-3.0
MCP-серверОфициальный

Расширенный доступ

Почему такой уровень

  • Ходит по адресам, которые указывает агент, и в облачном режиме отправляет их и поисковые запросы на сервер fastcrw.com
  • Установщик сам прописывает MCP-сервер и скиллы в настройки найденных агентов и держит ключ в файле конфигурации
Все причины и проверки

fastcrw/crw

Установка

Ручная установка

npx -y crw-mcp@latest install

Ставит скилл и MCP-сервер в найденные агенты, без ключа в локальном режиме. Нужен Node.js 18 или новее.

Доступ и проверки

Как мы проверяем

Расширенный доступИнструмент запускает код или ходит в сеть, а внешние данные только читает.

  • Ходит по адресам, которые указывает агент, и в облачном режиме отправляет их и поисковые запросы на сервер fastcrw.com
  • Установщик сам прописывает MCP-сервер и скиллы в настройки найденных агентов и держит ключ в файле конфигурации

Это чужой код. Посмотрите файлы в репозитории перед установкой.

Что делает

fastCRW — один бинарник на Rust с движком для работы с веб-страницами. Он берет адрес и возвращает Markdown, HTML, список ссылок, изображения или JSON по вашей схеме. Простые страницы забирает обычный запрос, а для тех, что строятся скриптами, движок подключает встроенный облегченный браузер или Chrome. Команда `npx -y crw-mcp@latest install` добавляет MCP-сервер `crw` и набор скиллов в найденные у вас агенты; без ключа сервер работает локально, во встроенном режиме. MCP-сервер отдает агенту инструменты `crw_scrape`, `crw_crawl` с опросом готовности через `crw_check_crawl_status`, `crw_map`, `crw_search`, `crw_extract` и `crw_parse_file`. Карта сайта собирает адреса из sitemap и ссылок без загрузки содержимого. Обход идет вширь от стартового адреса и по умолчанию соблюдает `robots.txt`. `crw_parse_file` превращает PDF из base64 в Markdown. Ответ по умолчанию обрезается до 15 000 знаков, чтобы не забивать контекст агента, и снимается параметром `maxLength: 0`. В репозитории лежат тринадцать скиллов с общей лестницей действий: сначала поиск, затем скрейпинг одной страницы, карта, обход, разбор PDF, извлечение по схеме и слежение за изменениями. Отдельные скиллы описывают переезд с Firecrawl заменой базового адреса и установку собственного сервера в Docker. Те же операции доступны из командной строки `crw`, из SDK для Python и Node.js и по REST. Для облака нужен ключ с fastcrw.com, а локальный режим бесплатен.

Для кого. Для разработчиков и аналитиков, чьи агенты в Claude Code, Cursor или Codex читают сайты, документацию и поисковую выдачу, и для тех, кто хочет держать сборщик страниц на своем сервере.

Подходит, если

  • Агенту нужен текст страницы документации в Markdown без навигации и подвала, а стандартный запрос возвращает пустой каркас
  • Требуется собрать документацию целого сайта для RAG: сначала `crw_map` оценивает размер, затем `crw_crawl` забирает страницы
  • Код уже работает с Firecrawl SDK, и хочется перейти на свой сервер заменой базового адреса
  • Нужно отслеживать изменения цены или текста на странице: скилл `crw-watch` сравнивает два снимка

Не подходит, если

  • Нужен интерактивный браузер с кликами и заполнением форм: в `crw-mcp` его нет, он вынесен в отдельный бинарник `crw-browse`
  • Вам нужна Windows: пакет `crw-mcp` в npm подключает бинарники только для macOS и Linux, на Windows остается установочный скрипт или сборка из исходников
  • Вы встраиваете движок в закрытый продукт: он под AGPL-3.0, MIT только у SDK, а лицензию для встраивания автор выдает отдельно
  • Нужен готовый поиск без настройки в локальном режиме: встроенный режим ищет, только если подключен поисковый бэкенд

Пример запроса к агенту

Собери документацию с docs.example.com в Markdown: сначала покажи, сколько там страниц, потом забери первые пятьдесят

MCP

Транспорт
stdio
Авторизация
не нужна

Переменные окружения

CRW_API_KEY секрет
Ключ облака fastcrw.com; без него сервер работает локально
CRW_API_URL
Адрес API, для облака https://api.fastcrw.com

Ограничения

  • Лицензия AGPL-3.0 у движка и MCP-сервера, у SDK для Python и TypeScript MIT. Для встраивания в закрытый продукт автор предлагает писать ему на почту.
  • Облачный режим платный по кредитам: новому аккаунту дают 1000 бесплатных кредитов один раз, не ежемесячно. Ключ можно записать в `~/.config/crw/config.toml`, он не копируется в настройки каждого агента.
  • Извлечение `crw_extract` и форматы `json` и `summary` в `crw_parse_file` требуют подключенной языковой модели: свой ключ провайдера или модель на сервере.
  • Чтобы не вносить правки в настройки агентов, добавьте переменную `CRW_NO_AGENTS=1`; без нее установщик с ключом сам регистрирует сервер в Claude Code, Cursor, Codex, Gemini CLI, OpenCode и Windsurf.
  • Доступность возможностей зависит от развертывания: список отдает адрес `/v1/capabilities`. Обход и карта соблюдают `robots.txt`, а за уважение к правилам сайтов отвечает пользователь.

Как отключить. Удалите запись `crw` из конфигурации MCP вашего агента и папки скиллов `crw*` из каталога скиллов. Бинарник `crw`, который положил установочный скрипт, лежит в `/usr/local/bin` или в папке из `CRW_INSTALL_DIR`, его достаточно удалить. Ключ и настройки хранятся в `~/.config/crw/config.toml`.

Частые вопросы

Нужен ли ключ, чтобы начать работать с fastCRW?

Нет. После `npx -y crw-mcp@latest install` без ключа сервер запускается в локальном режиме и скрейпит страницы на вашей машине. Ключ с fastcrw.com нужен для облака с управляемыми прокси, отрисовкой скриптов и встроенным поиском.

Чем fastCRW отличается от Firecrawl по подключению?

Интерфейс `/v1` и `/v2` совместим с Firecrawl, поэтому код на его SDK обычно переключается заменой базового адреса. Скилл `crw-migrate` описывает такой переход. Набор возможностей и форма ответов зависят от развертывания, их показывает `/v1/capabilities`.

Как fastCRW справляется со страницами на JavaScript?

Движок сам определяет, что страница строится скриптами, и переходит от обычного запроса к облегченному браузеру, а затем к Chrome. Принудительно включить отрисовку можно параметром `renderJs: true`, а паузу после загрузки задать через `waitFor`.

Сколько содержимого страницы получит агент?

По умолчанию около 15 000 знаков из `crw_scrape` и результатов обхода, при превышении в ответе стоит метка `truncated: true`. Параметр `maxLength: 0` отключает обрезку. Карта сайта выдает не больше 100 адресов, если не передать `limit: 0`.

Можно ли запустить fastCRW как свой API-сервер?

Да. Команда `crw serve` или образ `ghcr.io/fastcrw/crw` поднимает сервер на порту 3000. Скилл `crw-self-host` описывает отдельный бинарник `crw-server`, файл конфигурации, прокси и подключение языковой модели для извлечения.

Как проверить изменения на странице?

Сервер сам ничего не хранит между вызовами. Вы снимаете страницу, сохраняете снимок, позже снимаете снова и отправляете оба на `/v1/change-tracking/diff`. Ответ со статусом `changed` можно связать с оповещением по расписанию.

Обсуждение

Вопросов и отзывов пока нет.

MCP-серверы
Официальный

Официальный MCP-сервер Firecrawl: поиск в интернете, скрейпинг страниц в Markdown, обход сайтов и действия на странице

MCP-серверРасширенный доступ7,7 тыс.Звезды репозитория
Выбор редакции

Консольный клиент Firecrawl со скиллами для агентов: поиск в сети, скрапинг, обход сайтов, карта URL, взаимодействие со страницами

CLIРасширенный доступ661Звезды репозитория

MCP-сервер, который открывает страницы в безголовом Chromium через Playwright и отдает агенту основной текст в Markdown даже с сайтов на JavaScript

MCP-серверРасширенный доступ1,1 тыс.Звезды репозитория
Официальный

Краулер с открытым кодом превращает сайты в чистый Markdown для ИИ-агентов: ставится из PyPI, запускается в Docker и подключается к Claude Code по MCP

MCP-серверРасширенный доступ86,1 тыс.Звезды репозитория

Локальный инструмент на Rust для извлечения веб-контента: скрейпинг, обход сайта и структурированные данные для LLM, есть CLI, REST и MCP-сервер

CLIРасширенный доступ2,4 тыс.Звезды репозитория

MCP-сервер на Python для Codex, Claude Code и Cursor: 69 инструментов управления Chromium на основе DrissionPage, с наблюдением за страницей и сетью

MCP-серверШирокий доступ484Звезды репозитория

Сравнение с похожими

Записи с тем же главным запросом: чем они отличаются.

ЗаписьОфициальныйАвторизацияЗвезды репозиторияГлавное отличие
fastCRW (эта запись)дане нужна1 172
Firecrawl MCP ServerдаAPI-ключ7 672официальный MCP-сервер облака Firecrawl, нужен ключ API, в нем есть действия на странице
Tavily MCP ServerдаAPI-ключ2 454официальный MCP-сервер Tavily: веб-поиск, извлечение текста страниц, карта сайта и обход
Crawl4AIдаAPI-ключ86 076краулер на Python с установкой из PyPI и запуском в Docker

Коротко о README

В репозитории лежат исходники движка по отдельным пакетам Rust (сервер, CLI, MCP, поиск, отрисовка, сравнение страниц), SDK для Python, тринадцать скиллов, манифесты плагинов для Claude Code, Codex и Cursor, замеры скорости с описанием методики и статьи блога. Главная страница начинается с установки одной командой и таблицы операций, затем идут выбор между облаком и своим сервером и ссылки на документацию.

Бейдж для README

Сообщить о проблеме

Foxx AIfastCRW
Foxx AI

Я Foxx AI и уже разобрал этот инструмент. Спросите про установку, настройку или что угодно еще, отвечу простыми словами.