Sage S2.1 Flash: Mô hình tác nhân đa phương tiện cho nghiên cứu khoa học của Phòng thí nghiệm AI Thượng Hải

Mô hình đa phương tiện cho nghiên cứu khoa học do Phòng thí nghiệm AI Thượng Hải tải lên vào ngày 15 tháng 11, tài liệu triển khai cho biết đây là mô hình MoE với tổng số 320B tham số và 18B tham số kích hoạt, sử dụng kiến trúc GLM-5.3-Flash, trọng số BF16 khoảng 645 GB. Mô hình kết hợp khả năng hiểu dữ liệu khoa học, truy xuất thông tin, lập trình và gọi công cụ; nó có thể gọi các phần mềm chuyên dụng để phân tích, sau đó điều chỉnh bước tiếp theo dựa trên kết quả trung gian và phản hồi hình ảnh. Thông qua bộ chiếu (projector) của Sage SciPerception, mô hình có thể đọc hơn mười loại đầu vào khoa học như sơ đồ phân tử, cấu trúc tinh thể, trình tự protein và cấu trúc ba chiều. Ngoài ra còn có phiên bản FP8, mã nguồn và trọng số được cấp phép MIT.

Nguồn gốc: internlm/Sage-S2.1-Flash

Mô hình đa phương tiện cho nghiên cứu khoa học do Phòng thí nghiệm AI Thượng Hải tải lên vào ngày 15 tháng 11, tài liệu triển khai cho biết đây là mô hình MoE với tổng số 320B tham số và 18B tham số kích hoạt, sử dụng kiến trúc GLM-5.3-Flash, trọng số BF16 khoảng 645 GB. Mô hình kết hợp khả năng hiểu dữ liệu khoa học, truy xuất thông tin, lập trình và gọi công cụ; nó có thể gọi các phần mềm chuyên dụng để phân tích, sau đó điều chỉnh bước tiếp theo dựa trên kết quả trung gian và phản hồi hình ảnh. Thông qua bộ chiếu (projector) của Sage SciPerception, mô hình có thể đọc hơn mười loại đầu vào khoa học như sơ đồ phân tử, cấu trúc tinh thể, trình tự protein và cấu trúc ba chiều. Ngoài ra còn có phiên bản FP8, mã nguồn và trọng số được cấp phép MIT.

Tại sao quan trọng Việc tích hợp khả năng hiểu và truy xuất hơn mười loại dữ liệu khoa học, lập trình và gọi phần mềm vào cùng một mô hình rất phù hợp cho các quy trình nghiên cứu đòi hỏi phân tích và kiểm tra lặp đi lặp lại

Điểm tăng 55 · Lượt thích 55 · Lượt tải 22

Lý do

  • Nhà phát triển tuyên bố mô hình đạt 4 vị trí thứ nhất và 7 vị trí thứ hai trong 15 bài kiểm tra được liệt kê trên biểu đồ, so với 6 mô hình khác: MLE-bench Lite 90.3 (DeepSeek-V4.1-Flash-1017 đạt 89.2), OfficeQA Pro 72.2, Harvey LAB 25.0, SpreadsheetBench 2 đạt 37.1
  • Dữ liệu khoa học đi qua bộ chiếu: các đầu vào như phân tử, tinh thể, protein được mã hóa trước, sau đó ánh xạ vào không gian đầu vào của mô hình ngôn ngữ, cho phép dự đoán tính chất, phân loại, định vị vị trí, phân tích định lượng và suy luận cấu trúc
  • Giấy phép MIT, có thể tải xuống từ Hugging Face và ModelScope, ngoài ra còn cung cấp phiên bản FP8 và ba hướng dẫn triển khai cho LMDeploy, vLLM, SGLang

Cách sử dụng

  • Tác vụ chung (lập trình, văn phòng, điều khiển máy tính): Cài đặt vLLM 0.33.0, SGLang 0.5.20+ hoặc LMDeploy theo công thức chính thức của GLM-5.3-Flash, thay đổi tên mô hình thành internlm/Sage-S2.1-Flash, mỗi engine đều phải thêm --trust-remote-code; ví dụ chính thức sử dụng 8 card H200 (--tensor-parallel-size 8)
  • Với vLLM, trước tiên chạy hf download internlm/Sage-S2.1-Flash --include "vllm_patch/*" để tải bản vá và áp dụng theo README của nó (sửa lỗi kết quả hình ảnh bị sai lệch khi gọi công cụ song song); với SGLang, cần dùng --chat-template để chỉ định file chat_template.jinja đi kèm trong kho lưu trữ
  • Đầu vào khoa học: Tải projectors/sage-s2.1-flash/ từ kho lưu trữ này, tải load_projector.py và modeling_projector.py từ internlm/Sage-SciPerception, sử dụng bộ chiếu để tạo prompt_embeds, bật --enable-prompt-embeds trong vLLM rồi gửi yêu cầu tới /v1/completions

Rủi ro

  • Dung lượng lớn: BF16 khoảng 645 GB, ví dụ chính thức sử dụng 8 card H200, máy tính cá nhân không thể chạy được; không hỗ trợ bộ nhớ đệm KV FP8 trên H100 / H200
  • Điểm số đều lấy từ biểu đồ chính thức; nhiều hạng mục lập trình thấp hơn các mô hình so sánh, ví dụ SWE-bench Pro 60.6, NL2Repo-Bench 57.2, đều thấp hơn Claude Opus 5 và DeepSeek-V4.1-Flash-1017
  • Nếu quên thêm --trust-remote-code, hệ thống sẽ không báo lỗi nhưng sẽ coi các chuỗi như <tool_call> là ký tự điều khiển, dẫn đến dừng sớm hoặc lỗi gọi công cụ; vLLM còn có vấn đề đã biết với phản hồi không stream
  • Đầu vào khoa học yêu cầu cài đặt riêng bộ mã hóa khoa học và các phụ thuộc tiền xử lý, quy trình phức tạp hơn so với mô hình hội thoại thông thường; mục này chưa được chạy thử

Mở

Hugging Face Trending

Xem tin AI mới nhất