unsloth-buddy — скилл
Скилл для Claude Code и Gemini CLI: ведет дообучение языковой модели от датасета до экспорта в GGUF, на NVIDIA и Apple Silicon
- 283 ★ репозитория
- Последний коммит
- MIT
Расширенный доступ
Почему такой уровень
- Агент запускает скрипты и обучение на вашей машине, создает папки с моделями на десятки гигабайт и ставит Python-пакеты в окружение
- Облачный режим отправляет датасет и код в сессию Google Colab, если вы его включили
Установка
- Работает в
В терминале, через SkillFoxx CLI
npx skillfoxx add skills/unsloth-buddyОпределит агенты на машине, покажет уровень доступа и зафиксирует версию.
Другие способы установки
Доступ и проверки
Как мы проверяемРасширенный доступИнструмент запускает код или ходит в сеть, а внешние данные только читает.
- Агент запускает скрипты и обучение на вашей машине, создает папки с моделями на десятки гигабайт и ставит Python-пакеты в окружение
- Облачный режим отправляет датасет и код в сессию Google Colab, если вы его включили
Это чужой код. Посмотрите файлы в репозитории перед установкой.
Что делает
unsloth-buddy превращает агента в помощника по дообучению моделей. Он задает два вопроса о задаче и данных, подбирает метод (SFT, DPO, GRPO, ORPO, KTO, SimPO), модель и размер под ваше железо. Дальше работа идет по фазам: подготовка датасета, проверка окружения, обучение, сравнение базовой и дообученной модели, экспорт. На видеокартах NVIDIA обучение идет через Unsloth, на Mac с чипами M1–M4 через mlx-tune, для видео-моделей через mlx-vlm, для GRPO через TRL. Для облака скилл умеет работать с бесплатным GPU в Google Colab через colab-mcp. Во время обучения открывается панель на localhost:8080 с кривой потерь, расходом памяти и оставшимся временем. Каждый проект получает отдельную папку с датой и файл gaslamp.md, где записаны принятые решения. После завершения скилл сохраняет выводы в ~/.gaslamp/: особенности вашего железа, найденные обходы, готовые рецепты. В следующем проекте агент подхватывает эти заметки сам. Экспорт возможен в GGUF, объединенные веса 16 бит и Hugging Face Hub, а для запуска есть Ollama и vLLM.
Для кого. Инженерам по машинному обучению и разработчикам с MacBook или видеокартой NVIDIA, которым нужно дообучить модель на своих данных и неясно, какой метод и размер выбрать.
Подходит, если
- Есть 500 вопросов и ответов службы поддержки в CSV, а модель для суммаризации нужно получить на MacBook Air
- Обучение упирается в память видеокарты, и надо понять, влезет ли 7B с QLoRA на T4 с 16 ГБ
- Выбор между SFT, DPO и GRPO неочевиден, и нужен совет с объяснением простым языком
- Результат дообучения хочется увидеть рядом с базовой моделью, а не только по loss
- Через месяц эксперимент должен повторить другой человек или агент по файлу gaslamp.md
Не подходит, если
- Нужна готовая модель из каталога Hugging Face без собственного обучения
- Обучение идет на кластере из нескольких узлов: скилл описывает одну машину или один облачный GPU
- На Apple Silicon нужен стандартный Unsloth: там он не работает, скилл подставляет mlx-tune
- Задача сводится к промптам или RAG, а дообучение не оправдано объемом данных
Пример запроса к агенту
/unsloth-buddy У меня 500 вопросов и ответов поддержки в faq.csv, нужна модель для суммаризации, а из железа только MacBook AirОграничения
- Проверенные конфигурации: Apple Silicon с Python 3.12 или старше и mlx-tune, Linux и WSL с NVIDIA (CUDA 11.8, 12.1, 12.4 и новее), Windows через conda с Python 3.12.
- Установить нужно весь репозиторий: скилл включает вспомогательные скрипты и под-скиллы, отдельный SKILL.md не работает.
- Скилл сам запускает train.py и скрипты окружения. Обучение занимает часы и десятки гигабайт на диске.
- Облачный режим через Colab включается только по вашему согласию.
- Версия пакета в SKILL.md 1.0.3, проект развивается быстро, последний коммит в репозитории июнь 2026.
Как отключить. В Claude Code выполните /plugin uninstall unsloth-buddy и при желании удалите маркетплейс командой /plugin marketplace remove. Для Gemini CLI используйте gemini extensions uninstall unsloth-buddy. Если репозиторий клонировали в .agents/skills/unsloth-buddy, удалите эту папку. Заметки о прошлых запусках лежат в ~/.gaslamp/, их можно удалить отдельно.
Частые вопросы
Как поставить unsloth-buddy в Claude Code?
Выполните /plugin marketplace add TYH-labs/unsloth-buddy, затем /plugin install unsloth-buddy@TYH-labs/unsloth-buddy. После этого опишите, что хотите дообучить, и скилл включится сам. Для Gemini CLI есть команда gemini extensions install с адресом репозитория и флагом --consent.
Можно ли дообучать модель на Mac без видеокарты NVIDIA?
Да. На чипах M1–M4 скилл использует mlx-tune для SFT и DPO, mlx-vlm для обучения на изображениях и TRL с PyTorch MPS для GRPO. По таблице проекта на Mac с 10 ГБ памяти идет 7B, на 24 ГБ идет 13B.
Какие методы обучения поддерживает скилл?
SFT, DPO, GRPO, ORPO, KTO, SimPO и обучение на изображениях для Qwen2.5-VL, Llama 3.2 Vision, Gemma 3 и Gemma 4. Выбор делает агент после двух вопросов о задаче и данных и объясняет его по-русски, если вы пишете по-русски.
Что скилл запоминает между проектами?
После каждого запуска он записывает в ~/.gaslamp/ три файла: lessons.md с найденными подвохами, skills.md с рецептами и user.md с профилем вашего железа. Новый проект получает этот снимок только для чтения и применяет его без напоминаний.
Куда скилл складывает файлы проекта?
В отдельную папку с датой в имени, например customer_faq_sft_2026_03_17. Там лежат train.py, данные, логи, адаптеры и gaslamp.md. Корень вашего репозитория скилл не трогает, по описанию проекта.
Обсуждение
Вопросов и отзывов пока нет.
Похожие
СкиллыСкилл превращает ваши сессии Claude Code в датасет, обучает LoRA на Tinker и собирает GGUF для локального запуска.
Локальный MCP-сервер хранит скиллы как версии и пускает улучшенные варианты в работу только после проверки человеком
Локальный кодинг-агент с терминальным интерфейсом: планирует, пишет несколько вариантов, проверяет их в песочнице и чинит, чтобы малые модели тянули код
Сборник практичных скиллов: выбор моделей Claude 5 и GPT-5.6, английский для разработчиков, настройка Pi Agent, YouTube.
Инструмент Hugging Face: сильная модель создает скилл по трассам работы агента, слабая использует его, а оценка показывает выигрыш
Скилл ведет агента через создание малой модели под вашу задачу на платформе distil labs: от трасс и данных до обучения.
Коротко о README
README начинается с примера запроса и протокола сессии, где одна фраза пользователя доходит до модели в формате GGUF. Дальше идут установка для Claude Code, Gemini CLI и любого агента со стандартом Agent Skills, таблица отличий и восемь фаз работы с файлами на выходе. В конце описаны поддерживаемое железо, панель обучения, локальный запуск через llama.cpp и демо-страницы с примерами дообучения.
Бейдж для README
Исходный SKILL.md
--- name: unsloth-buddy description: This skill should be used when users want to fine-tune language models or perform reinforcement learning (SFT, DPO, GRPO, ORPO, KTO, SimPO) using the highly optimized Unsloth library. Covers environment setup, LoRA patching, VRAM optimization, vision/multimodal fine-tuning, TTS, embedding training, and GGUF/vLLM/Ollama deployment. Should be invoked for tasks involving fast, memory-efficient local or cloud GPU training, specifically when the user mentions Unsloth or when hardware limits prevent standard training. license: Complete terms in LICENSE.txt metadata: author: gaslamp version: "1.0.3" category: machine-learning repository: https://github.com/TYH-labs/unsloth-buddy --- # Unsloth Training & Optimization ## Overview You are the `unsloth-buddy`, a specialized AI assistant that helps machine learning practitioners train and optimize large language models (LLMs) using the Unsloth library. **Unsloth provides massive advantages over standard Hugging Face training:** - **Speed**: ~2x faster training speeds. - **Memory**: Up to 80% less VRAM usage (enabling 70B models on a single 80GB GPU, or 8B models on 12GB). - **Exact Math**: 0% loss in accuracy; Unsloth uses exact manual backprop kernels, not approximations. - **Broad Support**: Text, Vision/Multimodal, TTS, Embedding fine-tuning. All RL methods.