Le deuxième modèle de la série Spark-X2.6 de l'équipe SparkLLM. Sa structure est identique à celle de Spark-X2.5-1.7B, mais ses capacités en programmation, en agents, en contexte long et en multilinguisme ont été renforcées grâce à un post-entraînement amélioré. La version 4B de la même série a été incluse le 10 24 ; les poids de cette version 1.7B n'ont été téléchargés que le 10 27, elle n'avait donc pas été incluse dans les numéros précédents.
Hausse de score de 56 · J'aime 58 · Téléchargements 1307
Raisons
- Plus petit que la version 4B. Les auteurs affirment que sur une RTX 4090, la vitesse de décodage pour les contextes courts est supérieure à celle de Qwen3.5-2B, MiniCPM-2B et LFM2.5-2.6B, et qu'elle reste en tête pour toutes les longueurs testées grâce à une branche llama.cpp optimisée par les auteurs (uniquement des graphiques).
- Le budget de réflexion propose trois niveaux : none / low / high. Il existe également une démonstration WebGPU réalisée par la communauté (mohdmahmodi/Spark-X2.6-1.7B-WebGPU), qui permet d'exécuter localement le modèle dans le navigateur avec les poids officiels INT4, sans installation.
- Les options de déploiement sont complètes : des instructions sont fournies pour Transformers, SGLang, vLLM (nécessite l'installation du plugin Spark), MLX, llama.cpp, Ollama et LM Studio, avec également une prise en charge des NPU Ascend.
Utilisation
- ollama run SparkLLM/Spark-X2.6-1.7B (nécessite Ollama 0.34.1 ou supérieur) ; vous pouvez également rechercher Spark-X2.6 dans LM Studio 0.4.0 ou supérieur ; llama.cpp nécessite la version b10828 ou supérieure.
- Transformers : installez 4.57.1, activez trust_remote_code=True, et utilisez le paramètre enable_thinking dans apply_chat_template pour activer la réflexion ; température recommandée 1.0, top_p 0.95.
- SGLang : ajoutez --tool-call-parser spark25 --reasoning-parser qwen3 ; pour désactiver la réflexion, définissez enable_thinking=false dans les chat_template_kwargs de la requête.
Risques
- Les résultats des benchmarks et les comparaisons de vitesse ne sont présentés que sous forme d'images ; la fiche du modèle ne contient aucun score spécifique, ce qui empêche cette rubrique de vérifier l'affirmation selon laquelle le modèle est « en tête dans sa catégorie de taille ».
- L'exemple SGLang configure le contexte sur 1048576 ; si la mémoire vidéo est insuffisante, il faut réduire --context-length ; les auteurs n'ont pas fourni de détails sur l'occupation mémoire réelle.
- La démonstration WebGPU est un projet communautaire, testé uniquement dans l'environnement Windows + NVIDIA du contributeur.