Intel GPU AI Skills — плагин

Скиллы агента: запуск, замеры и профилирование моделей Hugging Face на видеокартах Intel Arc, плюс перенос кода с CUDA на XPU.

  • 51 ★ репозитория
  • Последний коммит
  • Apache-2.0
ПлагинОфициальный

Широкий доступ

Почему такой уровень

  • Скилл подготовки хоста ставит драйверные пакеты и Docker и меняет права группы render.
  • Скиллы запускают контейнеры и серверы моделей на вашей машине.
Все причины и проверки

intel/gpu-ai-skills

Установка

Ручная установка

/plugin marketplace add intel/gpu-ai-skills

Затем `/plugin install <имя-скилла>@intel-gpu-ai-skills`.

Доступ и проверки

Как мы проверяем

Широкий доступИнструмент может менять данные, выполнять команды или работать с секретами.

  • Скилл подготовки хоста ставит драйверные пакеты и Docker и меняет права группы render.
  • Скиллы запускают контейнеры и серверы моделей на вашей машине.

Это чужой код. Посмотрите файлы в репозитории перед установкой.

Что делает

Коллекция скиллов в стандарте Agent Skills для работы с произвольными моделями Hugging Face (safetensors и GGUF) на видеокартах Intel Arc, Arc Pro и Battlemage. Скиллы охватывают стеки PyTorch с Transformers, vLLM для XPU, SGLang для XPU и llama.cpp на SYCL. Набор разбит на этапы. Подготовка хоста: `xpu-system-setup`, `xpu-discover`, `xpu-container-run`. Планирование: `model-can-it-fit` оценивает видеопамять по `config.json`, `xpu-deploy-plan` собирает единый план запуска. Запуск: `torch-xpu-run`, `vllm-xpu-run`, `sglang-xpu-run`, `llamacpp-xpu-run`. Дальше идут замеры скорости и профилирование.

Для кого. Инженерам, которые поднимают локальные модели на видеокартах Intel и хотят, чтобы агент сам подобрал образ, флаги и проверил запуск.

Подходит, если

  • На чистом сервере с Ubuntu надо подготовить драйвер, `xpu-smi` и Docker для Intel Arc
  • Хочется знать, влезет ли Qwen2.5-32B в int4 на Arc Pro B70 при контексте 8K и четырех запросах
  • Код написан под CUDA, и его переводят на `torch.xpu`
  • Модель в формате GGUF поднимают через `llama-server` без Python и PyTorch
  • Нужен OpenAI-совместимый сервер на vLLM для видеокарты Intel

Не подходит, если

  • У вас видеокарта NVIDIA или AMD: скиллы написаны под Intel XPU
  • Модель диффузионная: `model-can-it-fit` ее не оценивает
  • Нужен скилл для облачной инференс-платформы, а не для своего железа

Пример запроса к агенту

Влезет ли Qwen2.5-32B в int4 на мою Arc Pro B70 при контексте 8K и конкурентности 4? Если да, подготовь план запуска на vLLM.

Ограничения

Скиллы рассчитаны на видеокарты Intel Arc, Arc Pro и Battlemage с поддержкой XPU. Часть рекомендательных скиллов, например `model-config-recommend`, помечена автором как экспериментальная. Оценка памяти опирается на формулы по `config.json` и не заменяет реальный замер на вашей модели. Скилл подготовки хоста ставит драйверные пакеты, Docker и меняет права группы render, это требует доступа с повышенными правами. Репозиторий активно развивается, версии образов и флагов vLLM и SGLang меняются быстро, сверяйте их с актуальной документацией.

Как отключить. Удалите установленные папки скиллов из каталога вашего агента или отключите плагин через `/plugin`. Скрипт установки поддерживает обратную операцию флагом `--uninstall`.

Частые вопросы

Как установить Intel GPU AI Skills в Claude Code?

Выполните `/plugin marketplace add intel/gpu-ai-skills`, затем `/plugin install <имя-скилла>@intel-gpu-ai-skills` для нужного скилла.

Какие агенты поддерживаются?

Claude Code, Cursor, Gemini CLI, OpenAI Codex, GitHub Copilot CLI, opencode, Qwen Code, Kimi Code, Hermes Agent и OpenClaw. Скрипт `scripts/install.sh` кладет скиллы во все найденные каталоги агентов.

Чем отличаются `vllm-xpu-run` и `llamacpp-xpu-run`?

Первый поднимает модель через OpenAI-совместимый HTTP API vLLM, второй запускает GGUF через `llama-server` на SYCL без Python и PyTorch.

Умеет ли набор оценивать, влезет ли модель в память?

Да, этим занимается `model-can-it-fit`: по `config.json` оценивает веса, KV-кэш и активации для декодерных LLM, MoE и VLM. Диффузионные модели скилл отклоняет.

Есть ли перенос кода с CUDA?

Да, скилл `cuda-to-xpu-migration` с инвентаризацией и шаблоном отчета о миграции. Также `torch-xpu-run` переводит код CUDA на `torch.xpu`.

Обсуждение

Вопросов и отзывов пока нет.

Плагины

GPU-профайлер для ИИ-агентов: агент запускает vLLM или SGLang под graphsignal-run, читает метрики и подбирает флаги для скорости

СкиллРасширенный доступ276Звезды репозитория
Официальный

13 скиллов NVIDIA для агента на устройстве Jetson: диагностика, память, запуск LLM, пакеты и тесты видео и инференса

СкиллШирокий доступ168Звезды репозитория

Официальные скиллы AMD учат агента ставить ROCm, запускать LLM на Instinct и EPYC, профилировать GPU и квантизовать модели.

СкиллРасширенный доступ485Звезды репозитория
Официальный

Официальный скилл и MCP-сервер GPUtw: агент арендует GPU в Тайване, ждет запуска, выполняет команду и сам останавливает машину

СкиллШирокий доступ119Звезды репозитория

Скилл включает и выключает инстансы AutoDL по просьбе на обычном языке, ведет бюджет и гасит простаивающую машину.

СкиллШирокий доступ95Звезды репозитория

Inference Autopilot подбирает параметры запуска SGLang под вашу видеокарту и нагрузку и выдает команду с доказательствами.

СкиллРасширенный доступ142Звезды репозитория

Коротко о README

README перечисляет скиллы по этапам: подготовка, планирование, запуск, замеры и профилирование. Дальше идут способы установки для разных агентов и сведения о проверке и безопасности.

Бейдж для README

Сообщить о проблеме