DeepSeek a publié les poids de V4.1-Flash-1017 sur Hugging Face (licence MIT, entrée texte et image). Le dépôt inclut une implémentation de référence en Python pour l'encodage des prompts et un code minimal de référence pour l'inférence, sans template de chat au format Jinja.
Téléchargements 116770
Confiance : élevée (80) · Date de l'événement 2026-10-16
Raison
- Publication de 10-17 (actualité récente, pas dans les 24 dernières heures) ; 10-27 a déjà signalé la sortie du modèle, mais nous nous concentrons ici spécifiquement sur le dépôt de poids, car les utilisateurs déployant localement sont les plus susceptibles de faire des erreurs de format de prompt.
- Selon l'officiel, le format de prompt de V4.1 diffère de celui de V4 sur trois points : un espace supplémentaire avant le nom de l'étiquette DSML pour les appels d'outils ; l'intensité de raisonnement est passée à une valeur numérique entre 1 et 100 (low=50, high=75 par défaut, max=100) ; prise en charge de l'insertion de messages système en cours de conversation.
- Pour la production, DeepSeek propose également deepseek-recipe (bibliothèque Rust + bindings Python), qui convertit les requêtes Messages, Chat Completions et Responses en prompts ou tokens pour V4 / V4.1, et analyse les pensées, les appels d'outils et les sorties d'images.
- La fiche modèle officielle liste les améliorations par rapport à la version précédente V4.1-Flash, notamment Terminal-Bench 4.0 passant de 31.2 à 42.3 et ProgramBench de 20.3 à 29.1 (selon l'officiel, Terminal-Bench a été testé avec le framework Claude Code).
Utilisation
- Échantillonnage recommandé : temperature 1.0, top_p 1.0, contexte de 1 M tokens, max_tokens d'au moins 256 K (recommandation officielle).
- Construction du prompt : utilisez encode_messages(messages, thinking_mode="thinking", reasoning_effort=75) dans encoding/encoding.py, et analysez la sortie du modèle avec parse_message_from_completion_text ; utilisez la balise de substitution <｜deepseek_image｜> pour les images.
- Inférence de référence : dans le répertoire inference, exécutez pip install -r requirements.txt, convertissez les poids avec convert.py en spécifiant le nombre de parallélismes de tenseurs (exemple MP=8, --expert-dtype fp4), puis lancez torchrun --nproc-per-node 8 generate.py --interactive pour discuter.
Risques
- DeepSeek précise explicitement que le répertoire inference est une « implémentation de référence lisible, pas un moteur de service de production », et l'exemple est écrit pour un parallélisme de tenseurs de 8 voies ; pour une exécution locale sur une seule carte, consultez les versions quantifiées communautaires ou des moteurs comme Delta.
- L'absence de template Jinja signifie que les frameworks d'inférence utilisant des templates de chat génériques risquent de mal formater les étiquettes DSML ou les préfixes d'intensité de raisonnement ; les chiffres de comparaison des benchmarks sont auto-déclarés par l'officiel.
Ouvrir · README du dépôt modèle encoding/README.md · README du dépôt modèle inference/README.md · Documentation API DeepSeek · News 2026/10/17