官方 V4.1-Flash-1017 权重的 16 个社区量化版，覆盖 GGUF（llama.cpp 及几个专用引擎）、EXL3（多卡 vLLM / exllamav3）、MLX 和 Apple Silicon 专用格式；这期逐个看过模型卡，没有混入去审查或微调版本。
下载量（合计） 1515552 · 点赞（合计） 843
理由
- ISTA-DASLab 的 GSQ-RCO GGUF 有 IQ1_M、IQ2_XXS、IQ2_XS 三档（总计约 231–266 GB），10-27 更新后可用 llama.cpp 主线 b11870 及以上加载，含图片输入；作者称 IQ2_XXS 在 AIME25、GPQA-Diamond、LiveCodeBench v6 上与原版持平（作者自测，reasoning effort 50）。
- 128 GB 内存机器有几条路：作者称 Maya-XS（Project Maya 引擎）常驻内存 115.3 GB；ds4 版 Q2 GGUF 面向 128 GB Mac 的 SSD 流式读取；unsloth 称最小的 1-bit 版需要 128 GB 以上内存。
- 多卡有 EXL3 方案：diffbot 版面向 2 张 RTX PRO 6000，franken-v100 版面向 8 张 V100 32GB；LibertAI 的 2.9 bpw 版附带按官方编码器移植的 chat_template.jinja，作者称与参考实现在 8,455 个用例上渲染一致。
- 合计下载量和点赞只代表关注度。
用法
- llama.cpp：hf download ISTA-DASLab/DeepSeek-V4.1-Flash-1017-GSQ-RCO-GGUF --include "*IQ2_XXS*" "*Engram*" --local-dir .，按模型卡把 Engram 文件软链接成第 6 个分片，再用 llama-cli -m …-00001-of-00006.gguf 加载。
- Apple Silicon：mlx-community 的 oQ4e / oQ2.5e（oMLX）或 beamster 的 Sushi-STQ 1.75bpw（需 sushi v1.4.0+、macOS 26.2+）。
- EXL3 包大多不含两张 Engram 表，要从官方仓库另取第 47、48 个分片（每个约 95 GiB）。
风险
- 即使最小的版本连同 Engram 表也有两三百 GB，Engram 要放在快速 SSD 上；各仓库要求的引擎和分支不一样（mrfakename 版仍要求特定 llama.cpp 分支、unsloth 版要用其 PR 或 Unsloth Desktop），下载前先看对应模型卡。
- 质量数字（KLD、top-1 一致率、基准分）都是各作者自测，口径互不相同；lossless-CSF 版用自定义的 LIL 许可且需要专用加载器。