Hugging Face 提出 Transformers 模型集成契约 MIC:用缩小版模型在 CPU 上抓回归 bug
Hugging Face 提出 transformers-mic 标准,把模型测试打包成「模型集成契约」(MIC):缩小版模型、可运行的用法示例和人工审核的基准输出,在 CPU 上跑。回放五个月的提交时,一个 66 MB 的 UMT5 小模型(原检查点 1,227 MB)持续标出一个在 main 分支留了近两个月的 bug:启用 SDPA 后,UMT5 解码器能看到未来的 token。
为什么重要
Transformers 支持 750 多种模型类型,全量 GPU 测试没法每个 PR 都跑,这套做法让 PR 阶段就能在 CPU 上发现回归。
来源1
由 dalao.ai 撰写:标题、摘要和“为什么重要”是我们自己的文字;事实以原始报道为准,著作权归原发布者所有。