腾讯混元的视频世界模型,8B 扩散骨干:用户每一轮给一句自由文字指令(加物体、换风格、触发事件)或一段镜头轨迹,模型在保留已生成历史的前提下续写下一段变长视频,历史靠一直保留的 KV 缓存维持一致。核心设计是把结构化的视频描述和“动作感知的因果注意力”对齐——场景描述在各段之间都能看到,动作指令只作用于它所属的时间窗口;另有一个视觉语言“提示增强器”把用户请求和交互历史翻译成下一段的结构化条件。
点赞 105 · 代码星数 345
理由
- 放得很全:DiT 基础版(用于微调)、蒸馏版、INT8 量化版,电影感和双臂机器人两个 LoRA,DCAE-V 视频自编码器、FP8 解码器和提示增强模型都在抱脸 tencent/Hy-Nomas,训练、推理、网页演示和数据标注代码都在 GitHub,代码 Apache-2.0。
- 蒸馏后推理只要 4–8 步去噪;README 给出单张 RTX 4090 的低显存配置(INT8 权重和 KV 缓存、滑动窗口历史、分阶段 CPU 卸载)。
- 生态接得快:README 列出 SGLang 已合入主线、社区 ComfyUI 节点(WASD 镜头控制、分段串联)、WanGP v18.81 支持、Diffusers 示例和 Reactor 流式运行时。
- 训练流程分阶段引入因果生成、文字交互、镜头控制,并专门在模型自己生成的历史上训练,针对的是长时交互里误差累积的问题;作者称人工评测优于现有世界模型(摘要未给具体数字)。
用法
- 权重:hf download tencent/Hy-Nomas;代码:github.com/Tencent-Hunyuan/Hy-Nomas,推荐用官方 Docker 镜像 hynomasoss/hynomasoss:cu130,手动装需要 Python 3.12+、CUDA 13.0 和 FlashAttention / MagiAttention 编译。
- 单卡:scripts/inference/inference_from_config.sh 配 configs/experiment/single_gpu_low_mem_inference.yaml,dit_weight 指向 DiT/distilled_int8,解码器用 VAE/PixelUMM_FT_FP8,提示写进 prompts.json。
- Diffusers:安装 README 指定的 diffusers 分支后用 HyNomasModularPipeline 加载 tencent/Hy-Nomas-Diffusers,示例是 1280×704、24fps、每段 5 秒、4 步的两段续写;提示是带 segments / contained_actions 的 JSON。
- 也可直接试官方在线演示 hy-nomas.hy.tencent.com/demo;自定义场景用 LoRA 微调(从未蒸馏的 base_ar 训练,再合并进蒸馏版)。
风险
- 单张 4090 依赖 CPU 卸载,需要足够的内存且有传输开销;README 没给 4090 上的速度和峰值显存数字。
- Reactor 流式演示的测试配置是 8 张 B200;LoRA 微调示例按 128 卡(DP16×SP8)写,个人复现门槛高。
- Diffusers 支持目前装的是个人 fork 分支,不是官方 diffusers 发行版;TPU 实时 720p 等说法来自社区贴文,不是论文结果。
- 论文效果只有人工评测结论、摘要没有量化指标;没看过演示视频,不评价画面质量。
编辑:和普通文生视频的区别在“交互”:每一轮都可以改指令或镜头,模型接着已有世界往下生成,而不是每次重开一段。