ERNIE来自创作者
百度发布文心 ERNIE 5.1:参数压缩至约三分之一,预训练成本仅 6%
百度正式发布 ERNIE 5.1,它继承 ERNIE 5.0 的预训练基础,总参数压缩到约三分之一、激活参数约一半,百度称预训练算力成本仅为同规模模型的 6%。
百度称其在 τ³-bench 和 SpreadsheetBench-Verified 智能体评测上超过 DeepSeek-V4-Pro,在带工具的 AIME26 上得 99.6 分,仅次于 Gemini 3.1 Pro。技术上,它从 ERNIE 5.0 的弹性子模型矩阵中提取最优子网络,并基于飞桨构建解耦的全异步强化学习训练架构。
要点
- 总参数约为 ERNIE 5.0 的三分之一。
- 百度称预训练成本仅为同规模模型的 6%。
- 百度称智能体评测超过 DeepSeek-V4-Pro。
- 带工具 AIME26 得分 99.6。
- 基于飞桨的解耦全异步强化学习训练。
原文:ERNIE 5.1 Officially Released! Topping Multiple Leaderboards — A Model That Writes Better and Understands You More
ERNIE 5.1 is derived from ERNIE 5.0, extracting the optimal sub-network architecture from ERNIE 5.0’s multi-dimensional elastic sub-model matrix to effectively inherit the knowledge and capabilities encoded in ERNIE 5.0 while significantly reducing pre-training cost.
收录于 。摘自官方博客的简短节选,著作权归原发布者所有。