扩散式视觉语言模型（如 LLaDA-V）每个去噪步都要把整张图的视觉 token 重新算一遍，而视觉 token 占输入的 89–97%。作者发现去掉图像只会在平均 22.8% 的步里改变正在揭开的 token。LOWN 每一步先不看图预测被遮住的 token，只有当这个预测和上一次看图时的预测不一致时才真正处理图像；一致的部分视为“已认证”可直接复用，认证了多少个就揭开多少个。
点赞 91 · 代码星数 7
理由
- 免训练、无需调阈值：作者称在十个基准上保留 LLaDA-V 99.6% 的分数，平均只用 35.3% 的解码 FLOPs。
- 能叠加：作者称可推广到其他基于 LLaDA 的扩散视觉语言模型，与视觉 token 剪枝正交，还能在 KV 缓存下进一步提速。
- 两条命令就能跑对比：README 的 COCO 熊示例中，同一张图 LLaDA-V 约 1930 TFLOPs、LOWN 约 812 TFLOPs，相对 0.421（作者称是解码器和 LM 头的解析估算，单张图示例）。
用法
- 环境：Linux、Python 3.11、一张 32 GB 以上显存的 NVIDIA GPU（PyTorch CUDA 12.6）。
- 运行：git clone github.com/hyeon9698/LOWN → bash setup.sh（建本地 .venv，首次运行自动下载 LLaDA-V 和 SigLIP2 权重）→ bash evaluate.sh --gpu 0，结果和 FLOPs 写到 outputs/result.json。
- 用自己的图：bash evaluate.sh --gpu 0 --method lown --image 图片路径 --prompt "Describe this image."
风险
- 只适用于 LLaDA-V 这类扩散式视觉语言模型，对常见的自回归视觉语言模型不适用。
- README 给的是单图演示和 FLOPs 估算，没有十个基准的复现脚本，也没给墙钟延迟；仓库没写许可证（内含 LLaDA-V 代码，按其许可）。
- 保分和省算力数字为作者报告。