Оригинальное название: internlm/Sage-S2.1-Flash
Мультимодальная научная модель, загруженная 11 числа месяца 15 Шанхайской лабораторией искусственного интеллекта. Согласно документации по развертыванию, это MoE-модель с общим количеством параметров 320B и активными параметрами 18B, использующая архитектуру GLM-5.3-Flash; весовые коэффициенты в формате BF16 занимают около 645 ГБ. Модель объединяет понимание научных данных с поиском информации, программированием и вызовом инструментов: она может запускать специализированное программное обеспечение для анализа и корректировать следующие шаги на основе промежуточных результатов и визуальной обратной связи. Благодаря проектору Sage SciPerception поддерживается ввод более десяти типов научных данных, включая молекулярные графы, кристаллические структуры, последовательности белков и трехмерные структуры. Также доступна версия FP8, код и веса которой распространяются под лицензией MIT.
Почему это важно Объединение понимания и поиска данных более чем десяти типов научных задач, программирования и вызова программного обеспечения в одной модели подходит для исследовательских процессов, требующих многократного анализа и проверки.
Рост рейтинга: 55 · Лайки: 55 · Количество загрузок: 22
Причины
- Официально заявлено, что модель заняла первое место в 4 категориях и второе место в 7 категориях среди 6 моделей в 15 тестах, перечисленных в таблице: MLE-bench Lite 90.3 (у DeepSeek-V4.1-Flash-1017 результат 89.2), OfficeQA Pro 72.2, Harvey LAB 25.0, SpreadsheetBench 2 — результат 37.1.
- Научные данные обрабатываются через проектор: входные данные, такие как молекулы, кристаллы и белки, сначала кодируются, а затем отображаются в пространство входных данных языковой модели, что позволяет выполнять предсказание свойств, классификацию, локализацию сайтов, количественный анализ и структурный вывод.
- Лицензия MIT, модель доступна для загрузки на Hugging Face и ModelScope; также предоставляется версия FP8 и инструкции по развертыванию для LMDeploy, vLLM и SGLang.
Использование
- Общие задачи (программирование, офисная работа, управление компьютером): следуйте официальной конфигурации GLM-5.3-Flash для установки vLLM 0.33.0, SGLang 0.5.20+ или LMDeploy, замените имя модели на internlm/Sage-S2.1-Flash и добавьте флаг --trust-remote-code для каждого движка; в официальном примере используются 8 видеокарты H200 (--tensor-parallel-size 8).
- Для vLLM сначала выполните команду hf download internlm/Sage-S2.1-Flash --include "vllm_patch/*", чтобы получить патч, и примените его согласно README (исправляет проблему с неверным сопоставлением изображений при параллельных вызовах инструментов); для SGLang необходимо использовать флаг --chat-template, указывающий на файл chat_template.jinja из репозитория.
- Научный ввод: загрузите папку projectors/sage-s2.1-flash/ из этого репозитория, а также файлы load_projector.py и modeling_projector.py из internlm/Sage-SciPerception. Используйте проектор для генерации prompt_embeds, затем отправьте запросы на endpoint /v1/completions в vLLM с включенным флагом --enable-prompt-embeds.
Риски
- Большой размер: весовые коэффициенты в формате BF16 занимают около 645 ГБ, официальный пример требует 8 видеокарт H200, что невозможно запустить на личном компьютере; на видеокартах H100 / H200 не поддерживается кэш KV в формате FP8.
- Все результаты получены из официальных таблиц; по многим показателям в программировании модель уступает конкурентам, например, на SWE-bench Pro результат составляет 60.6, а на NL2Repo-Bench — 57.2, что ниже результатов Claude Opus 5 и DeepSeek-V4.1-Flash-1017.
- Отсутствие флага --trust-remote-code не вызывает ошибку, но приводит к тому, что строки вроде <tool_call> интерпретируются как управляющие символы, что вызывает преждевременное завершение или ошибки при вызове инструментов; для vLLM в режиме без потоковой передачи ответа известна другая проблема.
- Для научного ввода требуются дополнительные научные энкодеры и зависимости предобработки, что усложняет процесс по сравнению с обычными диалоговыми моделями; в данном случае тестирование не проводилось.