DeepSeek-V4.1-Flash-1017 · Maya GGUF(Project Maya)

Project Maya 为 V4.1-Flash-1017 做的专用量化:常用专家放 GPU,其余放内存和 SSD,让单张消费级显卡的 PC 也能跑。

Project Maya 为 V4.1-Flash-1017 做的专用量化:常用专家放 GPU,其余放内存和 SSD,让单张消费级显卡的 PC 也能跑。 下载量 30505 · 点赞 33 **理由** - 作者称 Maya-S 与原模型 top-1 一致 92.6%、NLL 只高 3.2%;Maya-XS 主体 115.3GB,可整个放进 128GB 内存的 PC。 - 配套一条命令安装:自动检测 GPU、内存和 SSD,带网页聊天、监控面板和 OpenAI / Anthropic 兼容接口。 - 支持英伟达 V100 及以上、AMD(实验),Linux 与 Windows;30,505 次下载,只代表关注度。 **用法** - git clone https://github.com/mw00/project-maya.git && cd project-maya - ./setup.sh --model DeepSeek-V4.1-Flash-1017(或 ./setup.sh --setup 后选择),首次构建 20–40 分钟,之后打开 http://127.0.0.1:8080。 - 需要 NVMe SSD 约 350GB 空间。 **风险** - 质量与速度数字为作者自测;1–3 bit 专家量化,与原模型仍有差距。 - 可选的 DFlash2 草稿模型许可为 CC BY-NC-ND 4.0,不能商用;Windows 与 AMD 支持仍是实验状态。 [打开](https://huggingface.co/peasantsmith/DeepSeek-V4.1-Flash-1017-Maya-GGUF)

Xem tin AI mới nhất