DeepSeek 在抱脸公开的 V4.1-Flash-1017 权重(MIT 许可,图文输入),仓库里同时给了提示词编码的 Python 参考实现和一套最小参考推理代码,不附 Jinja 格式的聊天模板。
下载量 116770
置信度:高(80) · 事件时间 2026-10-16
理由
- 10-17 发布(近期动态,非过去 24 小时);10-27 已报道模型发布,这次单独看权重仓库本身,因为本地部署的人最容易在提示词格式上出错。
- 官方称 V4.1 的提示词格式与 V4 有三处不同:工具调用的 DSML 标签名前多一个空格;推理强度改成 1–100 的数值(low=50、high=75 为默认、max=100);支持对话中途插入 system 消息。
- 生产环境可用官方另发的 deepseek-recipe(Rust 库 + Python 绑定),把 Messages、Chat Completions、Responses 请求转成 V4 / V4.1 的提示词或 token,并解析思考、工具调用和图片输出。
- 官方模型卡列出相比上一版 V4.1-Flash 的提升,如 Terminal-Bench 4.0 从 31.2 到 42.3、ProgramBench 从 20.3 到 29.1(官方称,Terminal-Bench 用 Claude Code 框架测)。
用法
- 推荐采样:temperature 1.0、top_p 1.0,上下文 1M token,max_tokens 不低于 256K(官方建议)。
- 拼提示词:用 encoding/encoding.py 的 encode_messages(messages, thinking_mode="thinking", reasoning_effort=75),模型输出用 parse_message_from_completion_text 解析;图片用 <|deepseek_image|> 占位。
- 参考推理:在 inference 目录 pip install -r requirements.txt,用 convert.py 按张量并行数(示例 MP=8、--expert-dtype fp4)转换权重,再 torchrun --nproc-per-node 8 generate.py --interactive 对话。
风险
- inference 目录官方明说是“可读的参考实现,不是生产服务引擎”,示例按 8 路张量并行写;想在单卡上本地跑,要看社区量化版或 Delta 等引擎。
- 没有 Jinja 模板,直接套通用 chat template 的推理框架可能拼错 DSML 标签或推理强度前缀;评测对比数字都是官方自测。
打开 · 模型仓库 encoding/README.md · 模型仓库 inference/README.md · DeepSeek API 文档 · News 2026/10/17