DeepSeek đã công khai trọng số V4.1-Flash-1017 trên Hugging Face (giấy phép MIT, đầu vào văn bản và hình ảnh). Kho lưu trữ cung cấp đồng thời triển khai tham chiếu Python cho việc mã hóa prompt và một bộ mã suy luận tham chiếu tối giản, không kèm theo mẫu chat định dạng Jinja.
Số lượt tải xuống 116770
Độ tin cậy: Cao (80) · Thời gian sự kiện 2026-10-16
Lý do
- 10-17 đã phát hành (xu hướng gần đây, không phải trong 24 giờ qua); 10-27 đã đưa tin về việc phát hành mô hình, lần này chúng ta xem xét riêng kho trọng số vì những người triển khai cục bộ dễ mắc lỗi nhất về định dạng prompt.
- Chính thức cho biết định dạng prompt của V4.1 có ba điểm khác biệt so với V4: thêm một khoảng trắng trước tên thẻ DSML cho việc gọi công cụ; cường độ suy luận được thay đổi thành giá trị số từ 1–100 (low=50, high=75 là mặc định, max=100); hỗ trợ chèn tin nhắn system giữa chừng trong cuộc hội thoại.
- Cho môi trường sản xuất, có thể sử dụng deepseek-recipe do chính thức phát hành riêng (thư viện Rust + liên kết Python), chuyển đổi các yêu cầu Messages, Chat Completions, Responses thành prompt hoặc token của V4 / V4.1, đồng thời phân tích suy nghĩ, gọi công cụ và đầu ra hình ảnh.
- Thẻ mô hình chính thức liệt kê các cải tiến so với phiên bản V4.1-Flash trước đó, chẳng hạn Terminal-Bench 4.0 tăng từ 31.2 lên 42.3, ProgramBench tăng từ 20.3 lên 29.1 (chính thức tuyên bố, Terminal-Bench được kiểm thử bằng khung Claude Code).
Cách sử dụng
- Khuyến nghị lấy mẫu: temperature 1.0, top_p 1.0, ngữ cảnh 1M token, max_tokens không thấp hơn 256K (khuyến nghị chính thức).
- Ghép prompt: sử dụng encode_messages(messages, thinking_mode="thinking", reasoning_effort=75) trong encoding/encoding.py, phân tích đầu ra của mô hình bằng parse_message_from_completion_text; hình ảnh sử dụng chỗ giữ chỗ <｜deepseek_image｜>.
- Suy luận tham chiếu: trong thư mục inference, chạy pip install -r requirements.txt, sử dụng convert.py để chuyển đổi trọng số theo số lượng song song tensor (ví dụ MP=8, --expert-dtype fp4), sau đó chạy torchrun --nproc-per-node 8 generate.py --interactive để hội thoại.
Rủi ro
- Thư mục inference được chính thức tuyên bố rõ là "triển khai tham chiếu dễ đọc, không phải công cụ phục vụ sản xuất", ví dụ được viết cho 8 đường song song tensor; nếu muốn chạy cục bộ trên một card đồ họa, cần xem xét các phiên bản lượng tử hóa của cộng đồng hoặc các công cụ như Delta.
- Không có mẫu Jinja, các khung suy luận áp dụng trực tiếp mẫu chat chung có thể ghép sai thẻ DSML hoặc tiền tố cường độ suy luận; các con số so sánh đánh giá đều do chính thức tự kiểm thử.
Mở · README.md của encoding trong kho mô hình · README.md của inference trong kho mô hình · Tài liệu API DeepSeek · News 2026/10/17