microsoft/Mage-VL-Cowork

微软 Mage 团队的 4B 电脑操作模型:看桌面截图后,每一步自己决定用鼠标键盘操作界面(computer_use,11 种动作),还是在终端里跑 shell / Python(bash),一个模型做完跨应用的桌面任务,不用外部调度器。从 Mage-VL 4B 的中间检查点(Mage-ViT 加 Qwen3-4B)训练而来。

微软 Mage 团队的 4B 电脑操作模型:看桌面截图后,每一步自己决定用鼠标键盘操作界面(computer_use,11 种动作),还是在终端里跑 shell / Python(bash),一个模型做完跨应用的桌面任务,不用外部调度器。从 Mage-VL 4B 的中间检查点(Mage-ViT 加 Qwen3-4B)训练而来。

上升分 90 · 点赞 91 · 下载量 233

理由

  • 官方称 OSWorld-Verified 66.0%(361 题,不含 Google Drive 类,50 步预算,两次完整评测取平均),其中操作系统类 87.5%、多应用工作流 62.7%;同一张表里 ScaleCUA-Qwen3.5-9B 68.7、Qwen3.6-27B 63.9、GPT-5.4-mini 69.6,人类参考 72.4。
  • 会分工:表格、文档、演示文稿这类结构化修改直接在终端用 openpyxl / python-pptx 改,画布编辑和查看界面状态才去点鼠标。官方演示了一个 LibreOffice Calc 任务(合并单元格、加柱状图、存 .xlsx),它 39 秒 6 步完成,只点界面的 Qwen3.6-27B 用了 9 分 56 秒、39 步。
  • 训练配方写得完整:五个阶段依次是 GUI 中期训练、GUI 智能体 SFT、编程 / 终端 SFT、混合 SFT、在线 GRPO 强化学习,一共合成了 293,806 个任务。官方称强化学习比混合 SFT 高 10.16 个百分点,输出 token 还少 25.4%。10 月 30 日建仓,此前各期没有收录。

用法

  • 服务:用官方 Docker 镜像 xiaoyizhang/mage-vl-cowork:0.1.0(内含 SGLang 0.5.2),挂载权重目录就能起服务。也可以自己运行 python -m sglang.launch_server --model-path microsoft/Mage-VL-Cowork --trust-remote-code --context-length 32768 --tool-call-parser qwen25,并设 SGLANG_MAX_PIXELS=4000000,保留 1920×1080 截图的细节。
  • 系统提示词必须原样用卡里的 MAGE_HYBRID_SYSTEM_PROMPT,里面定义了 computer_use 和 bash 两个工具,坐标归一化到 0–999。模型每一步输出 <think> 推理、一句 Action 和 <tool_call>;采样用 temperature 0.7、top_p 0.8、max_new_tokens 4096。
  • 跑完整任务要接仓库 osworld_eval/ 里的 MAGEHybridAgent:保留最近 3 张截图,更早的步骤折叠成一句话摘要。用 Transformers 离线推理需要 transformers>=4.57.3,并开 trust_remote_code=True。

风险

  • 它会执行任意 shell 命令和界面操作。官方要求只在隔离、可丢弃的容器或虚拟机里运行,不要挂载个人密钥、浏览器 cookie 或云端凭据,付款、登录之类不可逆的操作前要人工确认。
  • 成绩都是官方自测,66.0 用的是自家 harness、两次运行取平均。网页任务 WebVoyager-Static 的 58.6 是 SFT 版的成绩,低于浏览器专用的 Fara1.5-4B(68.0)。卡里只有 Linux 桌面(OSWorld)的成绩。
  • 架构是自定义的 llava_onevision2,必须开 trust_remote_code,不能当标准 Qwen3-VL 加载;推理窗口按 32K 训练。bf16 权重 9.48 GB,显存需求卡里没写;技术报告目前是 GitHub 上的 PDF。

打开

Hugging Face Trending

浏览最新 AI 动态