DaisyRose-27B: Тонкая настройка Qwen, обученная исключительно с помощью обучения с подкреплением

Первая модель от RadixArk, загруженная 11 18: основана на Qwen3.8-27B, без дообучения с учителем и без дистилляции, только обучение с подкреплением. Задачи для обучения — около 1,200 длинных агентных задач, отобранных совместно с Eigent AI (каждая с песочницей длительностью до 1.5 часов и более чем 100 вызовами инструментов), максимальная длина одной сессии — 1 млн токенов, обучение проводилось в течение 18 дней на 144 GPU H200. Сохранены архитектура базовой модели, токенизатор, шаблон диалога, способность анализировать изображения и контекст в 256K токенов; модель может напрямую заменить Qwen3.8-27B. Веса распространяются под лицензией Apache-2.0, также доступны версии FP8 и NVFP4.

Оригинальное название: RadixArk/DaisyRose-27B

Первая модель от RadixArk, загруженная 11 18: основана на Qwen3.8-27B, без дообучения с учителем и без дистилляции, только обучение с подкреплением. Задачи для обучения — около 1,200 длинных агентных задач, отобранных совместно с Eigent AI (каждая с песочницей длительностью до 1.5 часов и более чем 100 вызовами инструментов), максимальная длина одной сессии — 1 млн токенов, обучение проводилось в течение 18 дней на 144 GPU H200. Сохранены архитектура базовой модели, токенизатор, шаблон диалога, способность анализировать изображения и контекст в 256K токенов; модель может напрямую заменить Qwen3.8-27B. Веса распространяются под лицензией Apache-2.0, также доступны версии FP8 и NVFP4.

Почему это важно Архитектура, токенизатор и шаблон диалога идентичны базовой модели, что позволяет прямой замену; официально заявлено улучшение результатов в большинстве тестов по программированию и работе с терминалом, модель можно запустить на одной видеокарте, лицензия Apache

Рост рейтинга: 42 · Лайки: 44 · Загрузки: 0

Причины

  • Официально заявлено, что результат в Terminal Bench 4.1 вырос с 5.6 до 12.0; Terminal Bench 2.1 73.0 → 75.5, DeepSWE v1.1 42.2 → 46.2, IFBench 79.5 → 82.4, GPQA Diamond 89.2 → 90.7
  • В той же таблице значительно более крупные модели MiMo V2.6 Flash и Inkling 2 Small показывают более высокие результаты в большинстве задач по программированию; баллы других моделей взяты из официальных публикаций или сторонних рейтингов
  • Фреймворк обучения с подкреплением Miles открыт: 128 GPU для агентов, 16 GPU для обучения, всего около 63,000 GPU-часов

Использование

  • Официально рекомендуется SGLang (lmsysorg/sglang:latest) с спекулятивным декодированием DSpark: --speculative-algorithm DSPARK --speculative-draft-model-path RadixArk/Qwen3.8-27B-DSpark, а также --reasoning-parser qwen3 --tool-call-parser qwen3_coder; cookbook SGLang генерирует команды запуска в зависимости от видеокарты и точности
  • Размер весов составляет примерно 52 ГБ (BF16) / 29 ГБ (FP8) / 23 ГБ (NVFP4, требуется видеокарта Blackwell); официально заявлено, что модель можно запустить на одной видеокарте RTX 5090, RTX PRO 6000, DGX Spark и т.д.
  • Для режима размышлений используйте temperature 1.0, top_p 0.95, top_k 20, min_p 0; для сложных задач не устанавливайте max_tokens, при многораундовых диалогах необходимо передавать обратно reasoning_content

Риски

  • Режим размышлений включен по умолчанию, официально указано, что для сложных задач модель может генерировать десятки тысяч токенов, что приводит к высоким затратам времени и ресурсов
  • Баллы получены в ходе внутреннего тестирования разработчиками, цифры для сравнения взяты из официальных публикаций и сторонних рейтингов, фреймворки оценки не полностью идентичны; абсолютный балл в Terminal Bench 4.1 по-прежнему составляет всего 12.0
  • В официальной документации не указано, какую точность использовать для видеокарт с памятью 32 ГБ, таких как RTX 5090, и какую длину контекста можно установить. Данная модель не была протестирована автором

Открыть

Hugging Face Trending

Открыть последние новости ИИ