fastCRW MCP
Сервер на Rust превращает страницы в Markdown или JSON: поиск, скрейпинг, карта сайта, обход и PDF через MCP, CLI и API, совместимый с Firecrawl
- 1 172 ★ репозитория
- Последний коммит
- AGPL-3.0
Расширенный доступ
Почему такой уровень
- Ходит по адресам, которые указывает агент, и в облачном режиме отправляет их и поисковые запросы на сервер fastcrw.com
- Установщик сам прописывает MCP-сервер и скиллы в настройки найденных агентов и держит ключ в файле конфигурации
Установка
- Работает в
Ручная установка
npx -y crw-mcp@latest installСтавит скилл и MCP-сервер в найденные агенты, без ключа в локальном режиме. Нужен Node.js 18 или новее.
Доступ и проверки
Как мы проверяемРасширенный доступИнструмент запускает код или ходит в сеть, а внешние данные только читает.
- Ходит по адресам, которые указывает агент, и в облачном режиме отправляет их и поисковые запросы на сервер fastcrw.com
- Установщик сам прописывает MCP-сервер и скиллы в настройки найденных агентов и держит ключ в файле конфигурации
Это чужой код. Посмотрите файлы в репозитории перед установкой.
Что делает
fastCRW — один бинарник на Rust с движком для работы с веб-страницами. Он берет адрес и возвращает Markdown, HTML, список ссылок, изображения или JSON по вашей схеме. Простые страницы забирает обычный запрос, а для тех, что строятся скриптами, движок подключает встроенный облегченный браузер или Chrome. Команда `npx -y crw-mcp@latest install` добавляет MCP-сервер `crw` и набор скиллов в найденные у вас агенты; без ключа сервер работает локально, во встроенном режиме. MCP-сервер отдает агенту инструменты `crw_scrape`, `crw_crawl` с опросом готовности через `crw_check_crawl_status`, `crw_map`, `crw_search`, `crw_extract` и `crw_parse_file`. Карта сайта собирает адреса из sitemap и ссылок без загрузки содержимого. Обход идет вширь от стартового адреса и по умолчанию соблюдает `robots.txt`. `crw_parse_file` превращает PDF из base64 в Markdown. Ответ по умолчанию обрезается до 15 000 знаков, чтобы не забивать контекст агента, и снимается параметром `maxLength: 0`. В репозитории лежат тринадцать скиллов с общей лестницей действий: сначала поиск, затем скрейпинг одной страницы, карта, обход, разбор PDF, извлечение по схеме и слежение за изменениями. Отдельные скиллы описывают переезд с Firecrawl заменой базового адреса и установку собственного сервера в Docker. Те же операции доступны из командной строки `crw`, из SDK для Python и Node.js и по REST. Для облака нужен ключ с fastcrw.com, а локальный режим бесплатен.
Для кого. Для разработчиков и аналитиков, чьи агенты в Claude Code, Cursor или Codex читают сайты, документацию и поисковую выдачу, и для тех, кто хочет держать сборщик страниц на своем сервере.
Подходит, если
- Агенту нужен текст страницы документации в Markdown без навигации и подвала, а стандартный запрос возвращает пустой каркас
- Требуется собрать документацию целого сайта для RAG: сначала `crw_map` оценивает размер, затем `crw_crawl` забирает страницы
- Код уже работает с Firecrawl SDK, и хочется перейти на свой сервер заменой базового адреса
- Нужно отслеживать изменения цены или текста на странице: скилл `crw-watch` сравнивает два снимка
Не подходит, если
- Нужен интерактивный браузер с кликами и заполнением форм: в `crw-mcp` его нет, он вынесен в отдельный бинарник `crw-browse`
- Вам нужна Windows: пакет `crw-mcp` в npm подключает бинарники только для macOS и Linux, на Windows остается установочный скрипт или сборка из исходников
- Вы встраиваете движок в закрытый продукт: он под AGPL-3.0, MIT только у SDK, а лицензию для встраивания автор выдает отдельно
- Нужен готовый поиск без настройки в локальном режиме: встроенный режим ищет, только если подключен поисковый бэкенд
Пример запроса к агенту
Собери документацию с docs.example.com в Markdown: сначала покажи, сколько там страниц, потом забери первые пятьдесятMCP
- Транспорт
- stdio
- Авторизация
- не нужна
Переменные окружения
CRW_API_KEYсекрет- Ключ облака fastcrw.com; без него сервер работает локально
CRW_API_URL- Адрес API, для облака https://api.fastcrw.com
Ограничения
- Лицензия AGPL-3.0 у движка и MCP-сервера, у SDK для Python и TypeScript MIT. Для встраивания в закрытый продукт автор предлагает писать ему на почту.
- Облачный режим платный по кредитам: новому аккаунту дают 1000 бесплатных кредитов один раз, не ежемесячно. Ключ можно записать в `~/.config/crw/config.toml`, он не копируется в настройки каждого агента.
- Извлечение `crw_extract` и форматы `json` и `summary` в `crw_parse_file` требуют подключенной языковой модели: свой ключ провайдера или модель на сервере.
- Чтобы не вносить правки в настройки агентов, добавьте переменную `CRW_NO_AGENTS=1`; без нее установщик с ключом сам регистрирует сервер в Claude Code, Cursor, Codex, Gemini CLI, OpenCode и Windsurf.
- Доступность возможностей зависит от развертывания: список отдает адрес `/v1/capabilities`. Обход и карта соблюдают `robots.txt`, а за уважение к правилам сайтов отвечает пользователь.
Как отключить. Удалите запись `crw` из конфигурации MCP вашего агента и папки скиллов `crw*` из каталога скиллов. Бинарник `crw`, который положил установочный скрипт, лежит в `/usr/local/bin` или в папке из `CRW_INSTALL_DIR`, его достаточно удалить. Ключ и настройки хранятся в `~/.config/crw/config.toml`.
Частые вопросы
Нужен ли ключ, чтобы начать работать с fastCRW?
Нет. После `npx -y crw-mcp@latest install` без ключа сервер запускается в локальном режиме и скрейпит страницы на вашей машине. Ключ с fastcrw.com нужен для облака с управляемыми прокси, отрисовкой скриптов и встроенным поиском.
Чем fastCRW отличается от Firecrawl по подключению?
Интерфейс `/v1` и `/v2` совместим с Firecrawl, поэтому код на его SDK обычно переключается заменой базового адреса. Скилл `crw-migrate` описывает такой переход. Набор возможностей и форма ответов зависят от развертывания, их показывает `/v1/capabilities`.
Как fastCRW справляется со страницами на JavaScript?
Движок сам определяет, что страница строится скриптами, и переходит от обычного запроса к облегченному браузеру, а затем к Chrome. Принудительно включить отрисовку можно параметром `renderJs: true`, а паузу после загрузки задать через `waitFor`.
Сколько содержимого страницы получит агент?
По умолчанию около 15 000 знаков из `crw_scrape` и результатов обхода, при превышении в ответе стоит метка `truncated: true`. Параметр `maxLength: 0` отключает обрезку. Карта сайта выдает не больше 100 адресов, если не передать `limit: 0`.
Можно ли запустить fastCRW как свой API-сервер?
Да. Команда `crw serve` или образ `ghcr.io/fastcrw/crw` поднимает сервер на порту 3000. Скилл `crw-self-host` описывает отдельный бинарник `crw-server`, файл конфигурации, прокси и подключение языковой модели для извлечения.
Как проверить изменения на странице?
Сервер сам ничего не хранит между вызовами. Вы снимаете страницу, сохраняете снимок, позже снимаете снова и отправляете оба на `/v1/change-tracking/diff`. Ответ со статусом `changed` можно связать с оповещением по расписанию.
Обсуждение
Вопросов и отзывов пока нет.
Похожие
MCP-серверыОфициальный MCP-сервер Firecrawl: поиск в интернете, скрейпинг страниц в Markdown, обход сайтов и действия на странице
Консольный клиент Firecrawl со скиллами для агентов: поиск в сети, скрапинг, обход сайтов, карта URL, взаимодействие со страницами
MCP-сервер, который открывает страницы в безголовом Chromium через Playwright и отдает агенту основной текст в Markdown даже с сайтов на JavaScript
Краулер с открытым кодом превращает сайты в чистый Markdown для ИИ-агентов: ставится из PyPI, запускается в Docker и подключается к Claude Code по MCP
Локальный инструмент на Rust для извлечения веб-контента: скрейпинг, обход сайта и структурированные данные для LLM, есть CLI, REST и MCP-сервер
DrissionPage MCP — управление браузером
DrissionPage MCP Server
MCP-сервер на Python для Codex, Claude Code и Cursor: 69 инструментов управления Chromium на основе DrissionPage, с наблюдением за страницей и сетью
Сравнение с похожими
Записи с тем же главным запросом: чем они отличаются.
| Запись | Официальный | Авторизация | Звезды репозитория | Главное отличие |
|---|---|---|---|---|
| fastCRW (эта запись) | да | не нужна | 1 172 | |
| Firecrawl MCP Server | да | API-ключ | 7 672 | официальный MCP-сервер облака Firecrawl, нужен ключ API, в нем есть действия на странице |
| Tavily MCP Server | да | API-ключ | 2 454 | официальный MCP-сервер Tavily: веб-поиск, извлечение текста страниц, карта сайта и обход |
| Crawl4AI | да | API-ключ | 86 076 | краулер на Python с установкой из PyPI и запуском в Docker |
Коротко о README
В репозитории лежат исходники движка по отдельным пакетам Rust (сервер, CLI, MCP, поиск, отрисовка, сравнение страниц), SDK для Python, тринадцать скиллов, манифесты плагинов для Claude Code, Codex и Cursor, замеры скорости с описанием методики и статьи блога. Главная страница начинается с установки одной командой и таблицы операций, затем идут выбор между облаком и своим сервером и ссылки на документацию.