DeepSeekがHugging Faceで公開したV4.1-Flash-1017の重み(MITライセンス、画像・テキスト入力対応)。リポジトリにはプロンプトエンコーディングのPython参考実装と最小限の参考推論コードが含まれていますが、Jinja形式のチャットテンプレートは付属していません。
ダウンロード数 116770
信頼度:高(80) · イベント日時 2026-10-16
理由
- 10-17 公開(最近の動向であり、過去 24 時間以内の出来事ではない)。10-27 はモデル公開についてすでに報道しているが、ここでは重みリポジトリ自体に焦点を当てる。ローカルデプロイを行うユーザーがプロンプト形式で最もエラーを起こしやすいため。
- 公式によると、V4.1 のプロンプト形式は V4 と3点異なる。ツール呼び出しのDSMLタグ名前にスペースが1つ追加される。推論強度が 1–100 の数値に変更された(low=50、high=75 がデフォルト、max=100)。会話の途中で system メッセージを挿入することが可能になった。
- 本番環境では、公式が別途公開した deepseek-recipe(Rustライブラリ + Pythonバインディング)を利用できる。これにより、Messages、Chat Completions、Responses リクエストを V4 / V4.1 のプロンプトまたはトークンに変換し、思考内容、ツール呼び出し、画像出力を解析できる。
- 公式モデルカードには、前バージョンの V4.1-Flash に対する改善点が記載されている。例えば、Terminal-Bench 4.0 は 31.2 から 42.3 に、ProgramBench は 20.3 から 29.1 に向上した(公式発表。Terminal-Bench は Claude Code フレームワークで測定)。
使い方
- 推奨サンプリングパラメータ:temperature 1.0、top_p 1.0、コンテキスト長 1M トークン、max_tokens は 256K 以上(公式推奨)。
- プロンプト構築:encoding/encoding.py の encode_messages(messages, thinking_mode="thinking", reasoning_effort=75) を使用し、モデル出力は parse_message_from_completion_text で解析する。画像は <|deepseek_image|> プレースホルダーを使用する。
- 参考推論:inference ディレクトリで pip install -r requirements.txt を実行し、convert.py を使ってテンソル並列数(例:MP=8、--expert-dtype fp4)に応じて重みを変換した後、torchrun --nproc-per-node 8 generate.py --interactive で対話を行う。
リスク
- inference ディレクトリについて、公式は「可読性を重視した参考実装であり、本番用サービングエンジンではない」と明記している。例は 8 路のテンソル並列を前提としている。単一GPUでのローカル実行を希望する場合は、コミュニティによる量子化版や Delta などのエンジンを利用する必要がある。
- Jinjaテンプレートがないため、汎用的なチャットテンプレートを適用する推論フレームワークでは、DSMLタグや推論強度プレフィックスの構築を誤る可能性がある。ベンチマーク比較の数値はすべて公式による自己測定である。
開く · モデルリポジトリ encoding/README.md · モデルリポジトリ inference/README.md · DeepSeek API ドキュメント · News 2026/10/17