«Базовая модель памяти», выпущенная командой MemTensor: рядом с основной архитектурой внимания добавлен нативный модуль памяти, который записывает историю диалога в состояние памяти фиксированного размера, что позволяет не передавать исходный контекст во время вывода.
Количество звёзд 432 (+9 / 24 ч)
Причины
- Два варианта: Nano основан на Qwen3.6-35B-A3B (общее количество параметров 36B, активных 3B), Flash основан на DeepSeek-V4-Flash (общее количество параметров 288B, активных 17B), веса доступны в организации MemTensor на Hugging Face
- Официально заявлено, что при длине истории 128K токенов персистентное состояние экономит примерно в 66 раз больше памяти по сравнению с полным KV-кэшем; на 11 бенчмарках памяти обе модели занимают первое и второе места среди методов параметризованной памяти
- Официально также указано, что на длинных историях, требующих детального поиска доказательств, текстовые системы памяти в целом всё ещё лидируют
- Прилагается пример «кодирующего агента на основе опыта»: извлечённый опыт сохраняется в нативную память, не занимая контекст задачи; технический отчёт доступен на arXiv 2610.26825
Использование
- На Linux-сервере с NVIDIA CUDA перейдите в каталог inference и выполните uv pip install '.[server]'; в клиентской среде установите '.[client]'
- Запустите сервис командой sh start_memt_nano.sh /models/MemT-1.0-Nano (в примере используются две GPU), затем общайтесь через MemTSession из библиотеки memt_sglang; при enable_memory=True диалог записывается в память
Риски
- Код распространяется под лицензией PolyForm Noncommercial 1.0.0, а материалы статьи — под CC BY-NC-SA 4.0; оба варианта не допускают коммерческого использования
- Требуется многоядерная GPU и полные веса в формате BF16; примеры ответов в диалоге в README являются иллюстративными, а не записями реальных запусков
- Прирост звёзд за 24 часов незначителен, уровень внимания пока низкий