Le « modèle de base de la mémoire » publié par l'équipe MemTensor : ajoute un module de mémoire natif à côté de l'attention du backbone, écrit l'historique des conversations dans un état de mémoire de taille fixe, et n'a plus besoin d'emporter le contexte original lors de l'inférence.
Nombre d'étoiles 432 (+9 / 24h)
Raison
- Deux versions : Nano est basé sur Qwen3.6-35B-A3B (paramètres totaux 36B, paramètres activés 3B), Flash est basé sur DeepSeek-V4-Flash (paramètres totaux 288B, paramètres activés 17B), les poids sont hébergés sous l'organisation MemTensor sur Hugging Face
- Selon les informations officielles, pour une longueur d'historique de 128K, l'état persistant permet d'économiser environ 66 fois plus de stockage qu'un cache KV complet ; sur 11 benchmarks de mémoire, les deux modèles se classent premier et deuxième parmi les méthodes de mémoire paramétrée
- Les informations officielles précisent également : pour les historiques longs nécessitant une récupération de preuves détaillées, les systèmes de mémoire textuelle restent globalement en tête
- Exemple inclus d'« agent de codage guidé par l'expérience » : les expériences récupérées sont stockées dans la mémoire native, sans occuper le contexte de la tâche ; le rapport technique est disponible sur arXiv 2610.26825
Utilisation
- Sur un serveur Linux avec NVIDIA CUDA, accédez au répertoire inference, exécutez uv pip install '.[server]' ; installez '.[client]' dans l'environnement client
- Lancez le service avec sh start_memt_nano.sh /models/MemT-1.0-Nano (l'exemple utilise deux GPU), puis interagissez via MemTSession de memt_sglang ; lorsque enable_memory=True, les conversations sont écrites dans la mémoire
Risques
- Le code est sous licence PolyForm Noncommercial 1.0.0, et les matériaux du papier sous CC BY-NC-SA 4.0, aucune utilisation commerciale n'est permise
- Nécessite plusieurs GPU et des poids BF16 complets ; les réponses d'exemple de conversation dans le README sont illustratives et ne constituent pas des enregistrements d'exécution
- Le nombre d'étoiles ajoutées en 24 heures est faible, l'attention reste limitée