H3-Tiny は、MiniMax H3(音声と映像の同時生成、元モデルは 33B)に対して構造化プルーニングを施したものです。AdaLN 投影をランク 8 の近似に置き換え、50 個のブロックのうち 8 個を除去して 17B とし(再学習なし)、さらに各層の FFN を 14336 から 9792 チャネルへ縮小し、33B による蒸留で性能を回復させて 14B としました。11 月 21 日時点の ComfyUI 版では、3 つの単一ファイルが提供されています。17B の参照画像から動画生成(Ref2VA)、17B の最初と最後のフレーム/テキストから動画生成(FL2VA / T2VA)、そして 14B の参照画像から動画生成で、それぞれ 28~34 GB です。作者は ComfyUI のコミット afcb984 において、1344×768、243 フレームでテストを行い、出力は diffusers 版と一致しました。6 ステップの少ステップ蒸留版も存在しますが、ComfyUI 版には含まれていません。
なぜ重要か ComfyUI 標準の H3 ワークフローで、モデルファイルを差し替えるだけで動作し、カスタムノードは不要です。作者によれば、再学習を行わないプルーニング版でもそのまま使用可能です。
ハグによるいいね 8 · ハグによるスコア上昇 8 · ハグによるダウンロード数 0
ライセンス:条件付き商用利用可 · ComfyUI:モデルカードに記載あり · VRAM:約 116 GB(推定)
地域制限:MiniMax H3 のオープンウェイトライセンスは、EU、英国、韓国、米国(LICENSE の Excluded Territories)を除いており、これら 4 地域では MiniMax から別途許諾を得る必要があります。
理由
- モデルカードには、各ファイルに対応する公式ワークフローノード、サンプリングステップ数、スケジューラが明記されており、Comfy-Org の turbo LoRA はプルーニング版でテストされていない旨も記載されています
- プルーニングおよび推論コードはオープンソース(Apache 2.0)であり、33B から独自にプルーニングを行うことも可能です
使い方
- diffusion_models/ 内のファイルを ComfyUI/models/diffusion_models に配置し、テキストエンコーダと 2 つの VAE は Comfy-Org/MiniMax-H3 からダウンロードします。公式の「MiniMax H3 Image to Video」または「Reference to Video」ワークフローを開き、Load Diffusion Model で H3-Tiny ファイルを選択します。設定は 50 ステップ、simple スケジューラ、BasicGuider で CFG なし、turbo LoRA は適用しません
リスク
- MiniMax H3 のコミュニティライセンスを引き継いでおり、EU、英国、韓国、米国では適用されません
- 単一ファイルでも 28~34 GB あり、作者のテストでは H200 が使用されました。GitHub の説明では、VRAM が約 110 GB 未満の場合は offload を有効にする必要があります。自動推定された 116 GB は 3 ファイルの合計値であり、正確ではありません
- 効果比較は作者が公開したサンプルのみであり、論文はまだ発表されていません