Mistral Large 4: Mô hình MoE đa phương thức, trọng số mở với hàng nghìn tỷ tham số

Mô hình lớn nhất từ trước đến nay của Mistral AI (biệt danh Le Chonk), được công bố trên blog chính thức vào ngày 29 tháng 10 là phát hành với trọng số mở: MoE đa phương thức gốc, tổng số tham số khoảng 1 nghìn tỷ, kích hoạt 490 tỷ tham số mỗi token (bao gồm lớp nhúng và lớp đầu ra là 520 tỷ), kích hoạt 4 trong số 128 chuyên gia định tuyến mỗi lần, ngữ cảnh 100 nghìn token, có thể nhập văn bản và hình ảnh. Các tác vụ chỉ dẫn, suy luận, lập trình và tác nhân chia sẻ cùng một bộ trọng số, cường độ suy luận được chia thành ba mức low / medium / high để chuyển đổi theo từng yêu cầu, hỗ trợ gọi hàm và xuất theo JSON Schema nghiêm ngặt. Theo thông tin chính thức, mô hình đạt điểm 48% trên Chỉ số Tác nhân Lập trình của Artificial Analysis, tương đương với GLM-5.3, sử dụng ít hơn 47% token trung bình cho mỗi tác vụ; đạt 26 điểm trên Chỉ số Thông minh v5, cao nhất trong số các mô hình trọng số mở phương Tây, nhưng thấp hơn các mô hình mã nguồn mở hàng đầu của Trung Quốc. Điểm kiểm tra tích hợp sẵn đầu nháp giải mã suy đoán DSpark, theo thông tin chính thức, thông lượng có thể tăng tối đa 1.9 lần.

Tiêu đề gốc: mistralai/Mistral-Large-4-1T-A52B

Mô hình lớn nhất từ trước đến nay của Mistral AI (biệt danh Le Chonk), được công bố trên blog chính thức vào ngày 29 tháng 10 là phát hành với trọng số mở: MoE đa phương thức gốc, tổng số tham số khoảng 1 nghìn tỷ, kích hoạt 490 tỷ tham số mỗi token (bao gồm lớp nhúng và lớp đầu ra là 520 tỷ), kích hoạt 4 trong số 128 chuyên gia định tuyến mỗi lần, ngữ cảnh 100 nghìn token, có thể nhập văn bản và hình ảnh. Các tác vụ chỉ dẫn, suy luận, lập trình và tác nhân chia sẻ cùng một bộ trọng số, cường độ suy luận được chia thành ba mức low / medium / high để chuyển đổi theo từng yêu cầu, hỗ trợ gọi hàm và xuất theo JSON Schema nghiêm ngặt. Theo thông tin chính thức, mô hình đạt điểm 48% trên Chỉ số Tác nhân Lập trình của Artificial Analysis, tương đương với GLM-5.3, sử dụng ít hơn 47% token trung bình cho mỗi tác vụ; đạt 26 điểm trên Chỉ số Thông minh v5, cao nhất trong số các mô hình trọng số mở phương Tây, nhưng thấp hơn các mô hình mã nguồn mở hàng đầu của Trung Quốc. Điểm kiểm tra tích hợp sẵn đầu nháp giải mã suy đoán DSpark, theo thông tin chính thức, thông lượng có thể tăng tối đa 1.9 lần.

Tại sao quan trọng Một mô hình trọng số mở hiếm hoi ở quy mô hàng nghìn tỷ tham số từ phương Tây, theo thông tin chính thức, kết quả trên các tác vụ tác nhân lập trình tương đương với các mô hình mã nguồn mở hàng đầu, trong khi sử dụng ít token hơn

Điểm tăng 78 · Lượt thích 1646 · Lượt tải 12541

Lý do

  • Một trong số ít các mô hình đa năng ở quy mô hàng nghìn tỷ tham số với trọng số mở, một bộ trọng số bao quát việc xem hình ảnh, suy luận, tác nhân lập trình và gọi công cụ
  • Theo thông tin chính thức, mô hình thể hiện nổi bật trong các tác vụ an ninh mạng, tài chính, pháp lý và định vị thị giác, hỗ trợ 160 ngôn ngữ
  • Hỗ trợ ngay từ đầu bởi vLLM, SGLang, transformers, llama.cpp; có thể tinh chỉnh bằng Axolotl, Unsloth, TRL; ngoài ra còn có phiên bản lượng tử hóa NVFP4 dành cho Blackwell

Cách sử dụng

  • vLLM: Sử dụng hình ảnh Docker chính thức vllm/vllm-openai:mistral-large-4, song song tensor trên 8 GPU, thêm --tool-call-parser mistral --reasoning-parser mistral; thêm --speculative-config để bật giải mã suy đoán DSpark
  • Khuyến nghị chính thức: temperature 1.0, top_p 0.95; dùng reasoning_effort=high cho các tác vụ phức tạp và tác nhân, medium cho các tác vụ hàng ngày, low cho trò chuyện nhanh
  • Nếu không tự triển khai, có thể gọi API Mistral với mistral-large-4, hoặc sử dụng cùng với trợ lý lập trình mã nguồn mở chính thức Mistral Vibe

Rủi ro

  • Giấy phép là Mistral Ecosystem Open-Weight License (phiên bản sửa đổi của MIT), cho phép sử dụng thương mại, nhưng kinh doanh dịch vụ mô hình (MaaS) cần ký giấy phép thương mại riêng
  • Triển khai mẫu yêu cầu nút gồm 8 GPU, không thể chạy trên thiết bị cá nhân
  • Kết quả dựa trên các chỉ số Artificial Analysis và blog chính thức được trích dẫn bởi nhà phát triển
  • Mục này chưa được chạy thử, hiệu quả thực tế phụ thuộc vào thẻ mô hình

Mở

Hugging Face Trending

Xem tin AI mới nhất