MOSS-Image-SFT:中文生成に対応し、JSON レイアウトによる配置が可能なテキストから画像への生成モデル

OpenMOSS(MOSI.AI)の MOSS-Image シリーズの教師あり微調整版で、MOSS-Image-Base から微調整されました。アーキテクチャと推論パイプラインは同一です。プロンプトは自然言語、タグのシーケンス、または JSON レイアウトで指定できます。summary.caption と items を使用して、シーン、レンダリングするテキスト、オブジェクト、およびそれらの位置バウンディングボックス(yxyx 形式、中心化絶対座標)を記述し、テキストの配置やオブジェクトのレイアウトを制御します。レイアウト内のテキスト、説明、ボックスを変更することで、構造化された修正が可能です。作者の比較図によると、SFT 版ではテキストのグループ化がより明確になり、ホワイトボードのレイアウトがより整然としています。内蔵の VAE は FLUX.2 small デコーダーを使用しています。10 月 11 日にリポジトリが作成されましたが、以前の号では取り上げられていません。

原題:OpenMOSS-Team/MOSS-Image-SFT

OpenMOSS(MOSI.AI)の MOSS-Image シリーズの教師あり微調整版で、MOSS-Image-Base から微調整されました。アーキテクチャと推論パイプラインは同一です。プロンプトは自然言語、タグのシーケンス、または JSON レイアウトで指定できます。summary.caption と items を使用して、シーン、レンダリングするテキスト、オブジェクト、およびそれらの位置バウンディングボックス(yxyx 形式、中心化絶対座標)を記述し、テキストの配置やオブジェクトのレイアウトを制御します。レイアウト内のテキスト、説明、ボックスを変更することで、構造化された修正が可能です。作者の比較図によると、SFT 版ではテキストのグループ化がより明確になり、ホワイトボードのレイアウトがより整然としています。内蔵の VAE は FLUX.2 small デコーダーを使用しています。10 月 11 日にリポジトリが作成されましたが、以前の号では取り上げられていません。

上昇スコア 74 · いいね数 917 · ダウンロード数 19515

理由

  • 「画像内に指定した中国語テキストを配置し、レイアウトに従って整列させたい」というニーズに対応:カード内の例では、プロンプトに複数行の中国語付箋内容を直接記述しています。JSON レイアウトにより、テキストとオブジェクトを指定した位置に配置でき、ポスター、ホワイトボード、インフォグラフィックなどのレイアウト図に適しています。
  • 周辺ツールが充実:プロンプト拡張スキル moss-image-prompt-enhancer(アイデアを詳細な説明やレイアウト JSON に変換し、座標変換のみを行うスクリプトを同梱、画像生成サービスは呼び出さない)、Gradio インターフェース、ComfyUI プラグイン、技術レポート(arXiv 2610.23374)、およびオンラインデモ。
  • 重みと推論コードは Apache-2.0 ライセンス。Hugging Face のいいね数は 917(注目度を示すのみ)。

使い方

  • diffusers:pip install "diffusers>=0.38" "transformers>=5.3" "accelerate>=1.10" safetensors Pillow(Python 3.10+、PyTorch 2.9+、NVIDIA GPU が必要)。DiffusionPipeline.from_pretrained('OpenMOSS-Team/MOSS-Image-SFT', custom_pipeline='pipeline_moss_image', trust_remote_code=True, torch_dtype={'default': torch.bfloat16, 'vae': torch.float32})、pipe(prompt, height=1024, width=1024, num_inference_steps=50, guidance_scale=3.0, uncond_skip_layers=22)。
  • デフォルトパラメータ:Flow-matching Euler 50 ステップ、CFG 3、shift 5、ネガティブブランチでは第 22 層をスキップ、ネガティブプロンプトは空欄。幅と高さは 16 の倍数である必要があります。レイアウトプロンプトは json.dumps(layout, ensure_ascii=False) を使用して渡します。出力画像のサイズはレイアウト内のキャンバスサイズと一致します。
  • ComfyUI:ComfyUI Manager で MOSS-Image を検索してプラグインをインストール(公式リポジトリへの統合はまだ進行中)。サンプルワークフローは GitHub の OpenMOSS/MOSS-Image の comfyui/ ディレクトリにあります。レイアウトを記述したくない場合は、まずエージェントに拡張スキルを使用してプロンプトを生成させることができます。

リスク

  • デフォルトでは 50 ステップ、各ステップで 2 回のフォワードパスを行うため、現在のステップ数削減モデルよりも遅い。カード内には VRAM 要件や速度データが記載されていません。
  • レイアウト生成は実験的な機能としてマークされています。拡張スキルは GPT-6 シリーズのエージェント向けに設計されており、他のエージェントでの効果は不明です。
  • カスタムパイプラインコードが含まれており、trust_remote_code が必要です。カード内には Base と SFT の比較図が 1 組あるだけで、定量的な評価表はありません。

開く

Hugging Face Trending

最新の AI ニュースを見る