MemTensor 团队发布的“记忆基础模型”:在骨干注意力旁加一个原生记忆模块,把历史对话写进固定大小的记忆状态,推理时不用再带原始上下文。
星数 432(+9 / 24h)
理由
- 两个版本:Nano 基于 Qwen3.6-35B-A3B(总参数 36B、激活 3B),Flash 基于 DeepSeek-V4-Flash(总参数 288B、激活 17B),权重在抱脸 MemTensor 组织下
- 官方称在 128K 历史长度下,持久状态比完整 KV cache 省约 66 倍存储;在 11 个记忆基准上,两款模型在参数化记忆方法里排第一、第二
- 官方也写明:在需要细节证据检索的长历史上,文本记忆系统整体仍然领先
- 附带“经验引导的编码代理”示例:检索到的经验存进原生记忆,不占任务上下文;技术报告见 arXiv 2610.26825
用法
- 在有 NVIDIA CUDA 的 Linux 服务器上进入 inference 目录,uv pip install '.[server]';客户端环境装 '.[client]'
- sh start_memt_nano.sh /models/MemT-1.0-Nano 启动服务(示例用两张 GPU),再用 memt_sglang 的 MemTSession 对话,enable_memory=True 时把对话写入记忆
风险
- 代码是 PolyForm Noncommercial 1.0.0、论文材料是 CC BY-NC-SA 4.0,均不可商用
- 需要多卡 GPU 和完整的 BF16 权重;README 里的对话示例回复是示意,不是运行记录
- 24 小时新增星数很少,关注度还低