小米的 0.8B OCR 专用视觉语言模型(从 Qwen3.5-0.8B-Base 训练),一个模型同时做整页文档解析(输出 Markdown,表格为 OTSL、公式为 LaTeX、按阅读顺序)、单区域文字 / 表格 / 公式识别、OCR 类问答和按 JSON Schema 抽取关键信息。
上升分 62 · 点赞 115 · 下载量 15472
理由
- 官方称 Real5-OmniDocBench 95.24 排第一,OmniDocBench v1.6 96.83、Wild-OmniDocBench 87.94 都排第二(仅次于 1.2B 的 TeleOCR 96.87 / 88.53);公式识别 UniMER-Test 97.84、表格识别 PubTabNet 92.27。
- 五个 OCR 问答基准平均 83.2,高于 Qwen3.5-2B 的 80.9,低于 Qwen3.5-4B 的 84.9;历史手写与书法(隶、草、行、楷)Chronicles-OCR 得 73,与 Seed 2.0 Pro 的 72 相当,对翻拍、扭曲、倾斜的文档也做了专门训练。
- 约 1.7 亿条 OCR 数据,靠多家 OCR 模型交叉投票、渲染回图核对等自动标注流程构建,后训练用混合任务强化学习;9 月 30 日随技术报告发布,此前各期没有收录(昨天收录的 MiniCPM-OCR-Jev 把它列为可打分的解析器之一)。
用法
- Transformers:uv pip install "transformers==5.17.0" "torch==2.14.0" "torchvision==0.29.0" pillow,AutoModelForImageTextToText 加载,do_sample=False、max_new_tokens=4096;CUDA、Apple mps 和 CPU 都能跑。
- 按任务换提示词:整页用卡里那段 “Extract all information from the main body…” 长提示;单区域用 “Extract the text in the image.” / “Parse the table in the image into OTSL.” / 公式转 LaTeX;抽字段用 “Extract key information in the image” 后接自己的 JSON Schema。
- Ollama(实验性):ollama pull longwayxu/xiaomi-ocr-0:bf16(约 1.8 GB),再按 GitHub 的 OLLAMA.md 接仓库自带的 MCP 服务或浏览器演示;先版面分析再逐区域识别的两阶段流程(PP-DocLayoutV3)和批处理脚本在 GitHub 仓库里。
风险
- 所有成绩为官方汇总,对比值来自各家报告;GGUF、NInfer 等社区转换版官方没有评测。
- 表格输出是 OTSL 格式,要转 HTML / Markdown 表格需自己处理;只用 Ollama 拉模型不会自动带上官方的预处理和解码设置。
- 卡里代码仍写旧仓库名 SeerRay-Lab/Xiaomi-OCR-0(抱脸会跳转到现仓库);显存需求没写。