Linux 上の Xolotl / Strata エンジンを Windows に移植したワンクリックパッケージ：12 GB 以上の RTX グラフィックカード、128 GB 以上のメモリ、高速 NVMe を搭載した一般的な PC で V4.1-Flash-1017（エキスパートの 2-bit 量子化）を実行し、OpenAI および Anthropic 互換のローカルインターフェースを提供します。最大コンテキスト長は 1M です。
スター数 28
理由
- Start DeepSeek.bat をダブルクリックすると、Python、CPU に適したプリコンパイル済みエンジン、モデルファイルが段階的にインストールされます（ダウンロードは再開可能で、各ファイルの SHA-256 が検証されます）。インストール完了後、チャットページが自動的に開き、自分でコンパイルする必要はありません。
- 作者によると、RTX 3090 + NVMe 環境での生成速度は約 41 tok/s（192 GB メモリ）/ 33 tok/s（128 GB メモリ）、長いプロンプトの読み込み速度は約 610 / 410 tok/s です。正確なルーティングを使用した場合、DeepSeek 公式 API とのトークンごとの最優先一致率は 91.4%（汎用）/ 92.1%（コードおよび数学）で、これらはすべて作者による自己テストの結果です。
- デフォルトでは ds4 版の Q2 GGUF を使用し、公式の MTP ヘッドから投機デコード用のドラフトモデルを作成します。Choose Model.bat を使用すると、ISTA-DASLab の GSQ-RCO や unsloth の量子化モデルに切り替えることができます。作者は 128 GB メモリの場合、UD-IQ1_S を推奨しています。
- エージェント向けに最適化されています：メモリ内には最大 8 件の会話セグメントをキャッシュでき、切り替え時にプロンプト全体を再読み込みする必要がありません。tools、tool_choice の強制指定、JSON 出力に対応しています。
使い方
- 要件：Windows 10/11 64 ビット、12 GB 以上の VRAM を備えた NVIDIA RTX グラフィックカード（ドライバ 580 以上、GTX 10 シリーズ以前は非対応）、128 GB 以上のメモリ、NVMe 上に約 385 GB の空き容量が必要です。リポジトリを短いパス（例：C:\AI\Delta）に配置し、Start DeepSeek.bat をダブルクリックしてください。
- クライアントは http://127.0.0.1:8080/v1（OpenAI）或 /v1/messages（Anthropic）に接続します。API Key は任意の値で構いません。モデル名は deepseek-v4.1-flash-1017-ds4-q2 です。問題が発生した場合は、Start DeepSeek (debug).bat を使用してください。これは会話内容を含まないログをパッケージ化します。
リスク
- 初回実行時には約 375 GB のダウンロードが必要です。モデル実行中は SSD から継続的に読み込みを行うため、SATA ドライブ、HDD、USB フラッシュドライブは適していません。再起動後の最初の数分間は速度が著しく低下します。12 GB のグラフィックカードで作者が測定したところ、約 17 tok/s でした。同時に届いたリクエストは順番に処理されます。
- 重みはコミュニティによる量子化版であり、公式のオリジナルではありません。速度と一致率は作者が自身のマシンで測定したものです。デフォルトではローカルホストのみをリッスンしており、LAN 内で使用するには api_key を設定する必要があります。