DeepSeek-V4.1-Flash-1017-FLARE

为 4 张 96GB SM120 显卡预编译好的 Flare 运行包，Docker 一条命令起 OpenAI 兼容服务，支持文本、图片和 1M 上下文。 下载量 0 · 点赞 13 **理由** - 包内含权重、编译好的 CUDA kernel 和执行图，运行时不需要 Python 或现场编译。 - 作者称在 4 张 RTX PRO 6000 上 8 并发合计解码 891.2 token/s、32 并发 1,473.5 token/s，每轮 5 个 DSpark 草稿 token。 **用法** - hf download local-inference-lab/DeepSeek-V4.1-Flash-1017-FLARE --revision gb202 下载运行文件（约 515GB）。 - docker run --gpus '"device=0,1,2,3"' … ghcr.io/local-inference-lab/flare:83d582e2-amd64 run \<主文件\>，完整参数见模型卡；需至少 256GiB 内存存放 Engram 表。 **风险** - 只适配 4 张 SM120 96GB 显卡，Transformers、vLLM、SGLang、llama.cpp 都不能加载此格式。 - 作者写明尚未做完整的模型准确率评测；首次运行需接受发布者许可。 [打开](https://huggingface.co/local-inference-lab/DeepSeek-V4.1-Flash-1017-FLARE)