Sage S2.1 Flash: 상하이 AI 연구소의 과학 연구용 멀티모달 에이전트 모델

상하이 인공지능 연구소가 11월 15일에 업로드한 과학 연구용 멀티모달 모델로, 배포 문서에 따르면 총 파라미터 수 320B, 활성 파라미터 수 18B인 MoE 구조를 채택했으며 GLM-5.3-Flash 아키텍처를 사용합니다. BF16 가중치 크기는 약 645GB입니다. 이 모델은 과학 데이터 이해와 정보 검색, 프로그래밍, 도구 호출을 통합하여 전문 소프트웨어를 호출해 분석을 수행하고 중간 결과 및 화면 피드백에 따라 다음 단계를 조정할 수 있습니다. Sage SciPerception의 프로젝터를 통해 분자 그래프, 결정 구조, 단백질 서열 및 3D 구조 등 10종 이상의 과학 입력 데이터를 처리할 수 있습니다. 또한 FP8 버전이 제공되며 코드와 가중치는 MIT 라이선스를 따릅니다.

원제: internlm/Sage-S2.1-Flash

상하이 인공지능 연구소가 11월 15일에 업로드한 과학 연구용 멀티모달 모델로, 배포 문서에 따르면 총 파라미터 수 320B, 활성 파라미터 수 18B인 MoE 구조를 채택했으며 GLM-5.3-Flash 아키텍처를 사용합니다. BF16 가중치 크기는 약 645GB입니다. 이 모델은 과학 데이터 이해와 정보 검색, 프로그래밍, 도구 호출을 통합하여 전문 소프트웨어를 호출해 분석을 수행하고 중간 결과 및 화면 피드백에 따라 다음 단계를 조정할 수 있습니다. Sage SciPerception의 프로젝터를 통해 분자 그래프, 결정 구조, 단백질 서열 및 3D 구조 등 10종 이상의 과학 입력 데이터를 처리할 수 있습니다. 또한 FP8 버전이 제공되며 코드와 가중치는 MIT 라이선스를 따릅니다.

왜 중요한가 10종 이상의 과학 데이터 이해와 검색, 프로그래밍, 소프트웨어 호출을 하나의 모델로 통합하여 반복적인 분석 및 검증이 필요한 연구 프로세스에 적합합니다

상승 점수 55 · 좋아요 55 · 다운로드 수 22

이유

  • 공식 자료에 따르면 표에 나열된 15개 평가 항목, 6개 모델 중 4개 1위, 7개 2위를 차지했습니다: MLE-bench Lite 90.3(DeepSeek-V4.1-Flash-1017는 89.2), OfficeQA Pro 72.2, Harvey LAB 25.0, SpreadsheetBench 2에서 37.1위를 기록했습니다
  • 과학 데이터는 프로젝터를 통해 처리됩니다: 분자, 결정, 단백질 등의 입력은 먼저 인코딩된 후 언어 모델의 입력 공간으로 매핑되어 성질 예측, 분류, 위치 지정, 정량 분석 및 구조 추론을 수행할 수 있습니다
  • MIT 라이선스이며 Hugging Face와 ModelScope에서 다운로드할 수 있고, FP8 버전과 LMDeploy, vLLM, SGLang 세 가지 배포 가이드가 제공됩니다

사용법

  • 일반 작업(프로그래밍, 사무 업무, 컴퓨터 조작): GLM-5.3-Flash의 공식 레시피에 따라 vLLM 0.33.0, SGLang 0.5.20+ 또는 LMDeploy를 설치하고 모델 이름을 internlm/Sage-S2.1-Flash로 변경하며, 각 엔진마다 --trust-remote-code 옵션을 추가해야 합니다. 공식 예제는 8장의 H200(--tensor-parallel-size 8)를 사용합니다
  • vLLM의 경우 먼저 hf download internlm/Sage-S2.1-Flash --include "vllm_patch/*" 명령으로 패치를 다운로드한 후 해당 README에 따라 적용합니다(병렬 도구 호출 시 이미지 매칭 오류 수정). SGLang은 --chat-template 옵션으로 저장소에 포함된 chat_template.jinja 파일을 지정해야 합니다
  • 과학 입력: 이 저장소에서 projectors/sage-s2.1-flash/를 다운로드하고, internlm/Sage-SciPerception에서 load_projector.py와 modeling_projector.py를 다운로드하여 프로젝터로 prompt_embeds를 생성한 후, vLLM에 --enable-prompt-embeds 옵션을 활성화하고 /v1/completions 엔드포인트로 전송합니다

리스크

  • 용량이 큼: BF16 가중치는 약 645GB이며 공식 예제는 8장의 H200를 사용하므로 개인용 PC에서는 실행할 수 없습니다. H100 / H200에서는 FP8 KV 캐시를 지원하지 않습니다
  • 점수는 모두 공식 차트에서 가져온 것입니다. 프로그래밍 관련 여러 항목은 비교 모델보다 낮은데, 예를 들어 SWE-bench Pro 60.6, NL2Repo-Bench 57.2는 모두 Claude Opus 5 및 DeepSeek-V4.1-Flash-1017보다 낮습니다
  • --trust-remote-code 옵션을 누락하면 오류가 발생하지 않지만 <tool_call> 등의 문자열을 제어 문자로 간주하여 조기 종료나 도구 호출 오류를 유발할 수 있습니다. vLLM의 비스트리밍 응답에는 알려진 문제가 있습니다
  • 과학 입력은 별도의 과학 인코더 및 전처리 의존성을 설치해야 하며, 일반 대화 모델보다 프로세스가 복잡합니다. 이 항목은 실행되지 않았습니다

열기

Hugging Face Trending

최신 AI 소식 보기