DeepSeek-V4.1-Flash-1017 量化版（GGUF / EXL3 / NVFP4 / MLX 等）

V4.1-Flash-1017 的社区量化版合为一条：以 Unsloth 动态 GGUF 为主，另列 EXL3、NVFP4、MXFP4、MLX 等格式。 下载量 24733 · 点赞 126 **理由** - Unsloth 称最小 1-bit 版可在 128GB 内存设备运行，3-bit 需 256GB，全精度约 320GB；附量化 KLD 分析和 Engram 表替换指南。 - 窗口内仍有新格式上传，如 mlx-community 的 ngram-mtp 系列（Apple 芯片）和 kernelpool 的 MXFP4 GGUF。 - Unsloth 版下载 24,733、点赞 126，只代表关注度。 **用法** - GGUF：按 Unsloth 指南（unsloth.ai/docs/models/deepseek-v4.1-flash）使用其 llama.cpp PR 或 Unsloth Desktop 运行。 - 其他格式见 variants：EXL3 用 exllamav3，NVFP4 用 vLLM，MLX 用 mlx-lm；各仓库运行要求以模型卡为准。 **风险** - 运行 Unsloth GGUF 需要其 llama.cpp PR 分支，主线 llama.cpp 能否直接加载作者未说明。 - 体积大：最小档也要 128GB 内存设备，Project Maya 说明里 Unsloth GGUF 约需 520GB 磁盘；部分变体只适配特定引擎（标注在 format）。 [打开](https://huggingface.co/unsloth/DeepSeek-V4.1-Flash-1017-GGUF)