H3-Tiny는 MiniMax H3(오디오 및 비디오 동시 생성, 원본 33B)에 적용된 구조적 가지치기(structured pruning)입니다. AdaLN 투영에 대해 랭크 8 근사치를 적용하고, 50개의 블록 중 8개를 제거하여 학습 없이 17B 모델을 생성한 후, 각 레이어의 FFN을 14336에서 9792 채널로 축소하고 33B를 증류(distillation)하여 복원함으로써 14B 모델을 얻습니다. 11월 21일 ComfyUI 버전에는 세 개의 단일 파일이 포함되었습니다: 17B 참조 이미지 기반 비디오 생성(Ref2VA), 17B 첫 및 마지막 프레임/텍스트 기반 비디오 생성(FL2VA / T2VA), 그리고 14B 참조 이미지 기반 비디오 생성으로, 각 파일의 크기는 28–34 GB입니다. 저자는 ComfyUI 커밋 afcb984에서 1344×768 해상도, 243 프레임으로 테스트했으며, 출력은 diffusers 버전과 일치했습니다. 또한 6단계의 소수 스텝 증류 버전이 존재하지만, ComfyUI 버전에는 포함되지 않았습니다.
왜 중요한가 ComfyUI에 내장된 H3 워크플로우에서 모델 파일만 교체하면 실행할 수 있으며, 커스텀 노드가 필요하지 않습니다. 저자는 학습을 거치지 않은 가지치기 버전도 바로 사용할 수 있다고 주장합니다.
얼굴 감싸고 좋아요 8 · 얼굴 감싸고 순위 상승 8 · 얼굴 감싸고 다운로드 0
라이선스: 조건부 상업적 사용 가능 · ComfyUI: 모델 카드에 언급됨 · VRAM: 약 116 GB 추정
지역 라이선스: MiniMax H3 오픈 웨이트 라이선스는 유럽 연합, 영국, 한국, 미국(LICENSE의 Excluded Territories)을 제외합니다. 이 네 지역에서는 MiniMax로부터 별도의 라이선스를 받아야 합니다.
이유
- 모델 카드에는 각 파일에 해당하는 공식 워크플로우 노드, 샘플링 스텝 수 및 스케줄러가 명시되어 있으며, Comfy-Org의 turbo LoRA가 가지치기 버전에서 테스트되지 않았다고 설명합니다
- 가지치기 및 추론 코드는 오픈 소스(Apache 2.0)로 공개되어 있어, 33B 모델에서 직접 가지치기를 수행할 수 있습니다
사용법
- diffusion_models/ 폴더의 파일을 ComfyUI/models/diffusion_models에 배치하고, 텍스트 인코더와 두 개의 VAE는 Comfy-Org/MiniMax-H3에서 다운로드합니다. 공식 'MiniMax H3 Image to Video' 또는 'Reference to Video' 워크플로우를 열고, Load Diffusion Model에서 H3-Tiny 파일을 선택합니다. 50 스텝, simple 스케줄링, BasicGuider에 CFG 미적용, turbo LoRA 미적용
리스크
- MiniMax H3 커뮤니티 라이선스를 따르므로, 유럽 연합, 영국, 한국 및 미국에서는 적용되지 않습니다
- 단일 파일의 크기가 여전히 28–34 GB이며, 저자의 테스트에는 H200 GPU가 사용되었습니다. GitHub 설명에 따르면 VRAM이 약 110 GB 미만인 경우 offload를 활성화해야 합니다. 자동 추정된 116 GB는 세 파일을 합산한 값으로 정확하지 않습니다
- 성능 비교는 저자가 직접 게시한 샘플만 있으며, 논문은 아직 발표되지 않았습니다