原题:MOSS-Image-heal
作者称原版 MOSS-Image-Base 的残差流里有少数数值极大的通道,接近 fp16 上限;这次全量微调只训练 transformer,把这些极端值压下来,同时让输出保持接近原版。仓库给了 diffusers 格式和 ComfyUI 单文件(bf16、fp16、int8 ConvRot),原理写在作者的 KohakuMossTrainer 文档里。
为什么重要 给用半精度跑 MOSS 或在它上面继续训练的人一个数值更稳的底模,出图接近原版。
抱脸点赞 35 · 抱脸上升分 34 · 抱脸下载 0
许可证:可商用 · ComfyUI:模型卡提到 · 显存:≈13 GB 估算
理由
- Apache-2.0 许可
- 模型卡附原版与微调版的同提示词对比图和全部统计报告
用法
- ComfyUI 用 comfyui/ 下的单文件替换 MOSS Base 的 transformer;作者样图设置为 16 步、CFG 3、shift 5
风险
- 面向训练和低精度推理的底层改进,出图风格不会明显变化;画质差异以作者对比图为准