DeepSeek опубликовала веса V4.1-Flash-1017 на Hugging Face (лицензия MIT, поддержка ввода текста и изображений). В репозитории представлены эталонная реализация кодирования промптов на Python и минимальный эталонный код для инференса, но отсутствует шаблон чата в формате Jinja.
Количество загрузок: 116770
Уверенность: высокая (80) · Время события: 2026-10-16
Обоснование
- Релиз 10-17 (недавняя новость, а не событие последних 24 часов); 10-27 уже сообщали о выпуске модели, но здесь мы отдельно рассматриваем сам репозиторий с весами, так как при локальном развертывании чаще всего возникают ошибки в формате промптов.
- Официально указано, что формат промптов для V4.1 отличается от V4 в трех аспектах: перед именем тега DSML для вызова инструментов добавляется пробел; параметр интенсивности рассуждений заменен числовым значением в диапазоне 1–100 (low=50, high=75 — по умолчанию, max=100); поддерживается вставка сообщений system в середине диалога.
- Для продакшена можно использовать официально выпущенную библиотеку deepseek-recipe (библиотека на Rust + привязки к Python), которая преобразует запросы Messages, Chat Completions и Responses в промпты или токены для V4 / V4.1, а также парсит результаты рассуждений, вызовы инструментов и вывод изображений.
- В официальной карточке модели перечислены улучшения по сравнению с предыдущей версией V4.1-Flash, например, результат в Terminal-Bench 4.0 вырос с 31.2 до 42.3, а в ProgramBench — с 20.3 до 29.1 (по официальным данным, Terminal-Bench тестировался в рамках фреймворка Claude Code).
Использование
- Рекомендуемые параметры сэмплирования: temperature 1.0, top_p 1.0, контекстное окно 1 млн токенов, max_tokens не менее 256 тыс. (официальная рекомендация).
- Формирование промпта: используйте функцию encode_messages(messages, thinking_mode="thinking", reasoning_effort=75) из файла encoding/encoding.py; вывод модели парсится с помощью parse_message_from_completion_text; для изображений используется плейсхолдер <｜deepseek_image｜>.
- Эталонный инференс: в каталоге inference выполните pip install -r requirements.txt, преобразуйте веса с помощью convert.py, указав степень тензорного параллелизма (в примере MP=8, --expert-dtype fp4), затем запустите интерактивный режим командой torchrun --nproc-per-node 8 generate.py --interactive.
Риски
- В каталоге inference официально указано, что это «читаемая эталонная реализация, а не движок для продакшена»; примеры написаны для 8-путевого тензорного параллелизма. Для локального запуска на одной видеокарте следует использовать квантованные версии от сообщества или движки вроде Delta.
- Отсутствие шаблонов Jinja означает, что при использовании фреймворков инференса с универсальными шаблонами чата возможны ошибки в тегах DSML или префиксах интенсивности рассуждений; все сравнительные метрики приведены по результатам собственных тестов разработчиков.
Открыть · encoding/README.md в репозитории модели · inference/README.md в репозитории модели · Документация API DeepSeek · Новости 2026/10/17