做手机的公司,通常不在你预期会发布前沿级推理模型的名单里。小米靠卖硬件、而不是发论文起家。然而在 2025 年 4 月 30 日,小米的大模型(Large model)Core 团队把 MiMo-7B 连同权重一起丢到了 Hugging Face 和 GitHub 上,而它的成绩并不像常见的那种 modest 开源权重作品。
它的说法既具体又大胆:一个 70 亿参数的模型,在数学和代码榜单上能跟上 OpenAI 闭源的 o1-mini,并且击败比它大好几倍的开放推理模型。哪怕只兑现一半,也足以改变谁能参与这场推理竞赛。
关键要点
- MiMo-7B 是一个 70 亿参数、以推理为优先的大模型(Large model),于 2025 年 4 月 30 日以宽松许可证开源(项目页标注 MIT)。
- 它在约 25 万亿 token 上做了预训练,其中包含约 2000 亿合成推理 token,随后用 13 万道数学和代码题做强化学习微调。
- 在小米的基准卡片上,MiMo-7B-RL 在 MATH-500 得分 95.8%,AIME 2024 为 68.2%,LiveCodeBench v5 为 57.8%;小米称它追平 o1-mini,并以远小于对方的体积超越 32B 的 QwQ-32B-Preview。
- 自研的「Seamless Rollout」引擎把强化学习训练时间缩短 2.29 倍、验证缩短 1.96 倍;多token预测(multiple-token prediction)让推测解码的接受率约为 90%。
- 发布时提供了四个检查点:基础版、SFT、从基础版做 RL、从 SFT 做 RL。
一个硬件厂商为何出手
大多数开放推理模型来自以研究为本职的实验室。小米的动作只有在它的「人车家(Human × Car × Home)」战略里才说得通:一个推理够好、又小到能跑在手机、车机座舱或智能音箱上的模型,正是小米能真正塞进它那每年上亿台产品里的东西。
团队的赌注是:推理质量并不纯粹是参数量的线性函数。他们的技术报告(arXiv 2505.07608)认为,基础模型隐藏的推理潜力,与训练后技巧同样重要,所以他们重金投在预训练阶段。他们抓取并筛选推理密集的文本,合成了约 2000 亿 token 的推理专用数据,并用三阶段的数据混合计划逐步提升难度。他们声称,由此得到的一个 7B 基础模型,已经展现出可媲美四倍大模型的推理能力。
强化学习带来了什么
头条数字来自经过 RL 调优的变体 MiMo-7B-RL。团队没有用容易被钻空子的神经网络裁判来奖励模型,而是只在 13 万道仔细清理过的数学和代码题上使用基于规则的验证器。对于奖励稀疏的难题,他们引入了「Test Difficulty Driven Reward」,按难度给不同测试用例更细的评分,让策略得到更密集的学习信号。一个「Easy Data Re-Sampling」步骤则防止简单题目 destablize 后续训练。
其底层的工程同样值得注意。语言模型的 RL 训练,生死系于你能多快地生成 rollout 并打分;小米的 Seamless Rollout 引擎把持续生成、异步奖励计算和提前终止做成流水线,让 GPU 始终忙碌,据称带来 2.29 倍更快的训练和 1.96 倍更快的验证。那个助力预训练的多token预测目标,也让推理时的推测解码达到约 90% 的接受率。
把成绩单诚实地读一遍
小米自己的评测把 MiMo-7B-RL 放在 MATH-500 的 95.8%、AIME 2024 的 68.2%、AIME 2025 的 55.4%、LiveCodeBench v5 的 57.8% 以及 GPQA-Diamond 的 54.4%。对照这张卡片,公司称模型追平 OpenAI 的 o1-mini,并在 7B 对 32B 的情况下击败阿里的 QwQ-32B-Preview。独立复现尚未产生竞争性的榜单,所以 o1-mini 的对比眼下仍建立在小米的口径之上。
对全球读者来说,有意思的先例不在于具体数字,而在于来源。一家拥有海量设备覆盖面的消费电子制造商,刚刚证明了聚焦的、推理专精的 7B 可以在传统实验室之外被造出来,并且把整套——基础版、SFT、RL 和 RL-Zero 检查点——都开放给任何人运行。据脑机网(BrainNet)首席科学家 Li An 的看法,更具实质性的趋势是推理能力正从前沿实验室外溢到硬件公司的路线图里,这改变了谁掌控边缘侧部署。
Li An 的评论仅代表其个人观点,不代表 NeuroAI 的编辑立场或脑机网(BrainNet)的背书。
诚实的局限
- 上面每个基准都是厂商自报。权重是公开的,所以独立测试可行,但还没有第三方榜单确认 o1-mini 的对比,或确认确切的 AIME/MATH 数字。
- 「击败 o1-mini」的说法是小米在精选数学和代码集合上的自我定位;它不意味着 MiMo-7B 在每一项任务或通用开放域能力上都追平 o1-mini。
- 一个 7B 模型,哪怕很强,在广博知识、长程推理和多语种覆盖上仍远低于最大的前沿系统。这个跨越是相对于它的尺寸档位,而非绝对水平。
- 强化学习的增益依赖于规则可验证的数学和代码;它能否迁移到混乱的真实世界推理,仍是社区正在检验的开放问题。
- 许可证细节在各镜像间有出入;官方项目页标注 MIT,但某些聚合站对这次发布的描述不同,商业使用前请查清楚仓库。
普通人现在能做什么
- 如果你跑本地或端侧助手,不妨先在 GGUF/llama.cpp 环境里试 MiMo-7B-RL 处理数学和代码求助,再假设自己需要 30B 以上的模型——这个 7B 可能覆盖得比你预期的多。
- 如果你微调开源模型,把报告里的 RL 配方(基于规则的验证器、难度驱动的奖励、Seamless Rollout)当作模板来研究;那些加速是工程经验,不只是刷榜诱饵。
- 如果你做带助手功能的硬件,留意小米是否把 MiMo 装进 HyperOS 设备——这是小推理模型正为边缘而非云端而设计的最清晰信号。