百度开源 Unlimited OCR 2 文档解析模型
百度 10 月 27 日在 Hugging Face 和 GitHub 发布 Unlimited OCR 2(MIT 许可,约 33 亿参数)。新版引入稀疏参考滑动窗口注意力(SR-SWA),把超长序列中的图文注意力压缩到固定数量的参考 token(如 512 个),使每步解码延迟和显存基本不随文档长度增长;官方称在数十页和上百页的长文档解析基准上达到 SOTA。
为什么重要
长文档解析是 RAG 和 Agent 读取文件的常用环节;这一版开源可本地部署,显存不随页数增长。
来源2
- Hugging Face · baidu媒体Hugging Face 模型页:baidu/Unlimited-OCR-2译自英文 · 查看原文
- @Baidu_IncXUnlimited OCR 2 来了,而且是开源的。📖 ✨ 文档越长,注意力计算量可能就越大。我们新的 SR-SWA 机制把文本与视觉之间的注意力交互压缩成一组固定大小的工作参照,从而控制住计算量。 它能带来: - 在有限的上下文窗口内解析几乎任意长度的文档 - 文档变长时,每步解码延迟和内存占用几乎保持不变 - 在 MPDocBench 和 MarathonDocBench 上达到最先进水平,覆盖从几十页到几百页的文档 在这里查看模型 ↓译自英文 · 查看原文
由 dalao.ai 撰写:标题、摘要和“为什么重要”是我们自己的文字;事实以原始报道为准,著作权归原发布者所有。