원제: MOSS-Image-heal
저자는 원본 MOSS-Image-Base의 잔차 스트림(residual stream)에 fp16 상한에 근접한 극단적으로 큰 수치를 가진 소수의 채널이 존재한다고 언급했습니다. 이번 전체 미세 조정은 트랜스포머만 학습하여 이러한 극단값을 낮추면서도 출력은 원본과 유사하게 유지하도록 했습니다. 저장소에는 diffusers 형식과 ComfyUI 단일 파일(bf16, fp16, int8 ConvRot)이 제공되며, 원리는 저자의 KohakuMossTrainer 문서에 설명되어 있습니다.
중요한 이유 반정밀도(half-precision)로 MOSS를 실행하거나 이를 기반으로 추가 학습을 진행하는 사용자에게 수치적으로 더 안정적인 기본 모델을 제공하며, 생성된 이미지는 원본과 유사합니다.
얼굴 감싸기 좋아요 35 · 얼굴 감싸기 상승 점수 34 · 얼굴 감싸기 다운로드 0
라이선스: 상업적 사용 가능 · ComfyUI: 모델 카드에 언급됨 · VRAM: 약 13 GB 추정
이유
- Apache-2.0 라이선스
- 모델 카드에 원본과 미세 조정된 버전의 동일 프롬프트 비교 이미지 및 모든 통계 보고서가 포함됨
사용법
- ComfyUI에서는 comfyui/ 폴더의 단일 파일로 MOSS Base의 트랜스포머를 교체합니다. 저자의 샘플 이미지 설정은 16 단계, CFG 3, shift 5입니다.
리스크
- 학습 및 저정밀도 추론을 위한 기초적인 개선 사항으로, 이미지 생성 스타일은 크게 변하지 않습니다. 화질 차이는 저자의 비교 이미지를 기준으로 합니다.