2015 年一篇计算机视觉论文里有一张图,展示了本不该发生的事:一个 56 层网络在自己训练数据上比 20 层还差。不是过拟合——更深的模型更难优化,加层反而让结果变坏。
修法是一行算术:不让一叠层学映射,而是让它学输入与目标之间的差,最后把输入加回去。这就是残差连接,现在几乎在一切里面:Transformer、AlphaFold、扩散模型、视频模型。
写下它的何恺明,现在是麻省理工电子工程与计算机科学系终身副教授,持 Douglas Ross(1954)软件技术职业发展教授席位;2025 年 6 月起兼任 Google DeepMind 杰出科学家。
他的新论点更小更怪,而它决定你生成每张图的成本。
那个修法是一次加法
ResNet 的贡献不是新神经元或更大的数据集,而是一次重新参数化:让一个块容易学到恒等映射,深度就不再跟你作对。
这篇《用于图像识别的深度残差学习》拿了 2016 年 CVPR 最佳论文,2026 年又获该会议时间检验奖。他主页注明《自然》一篇文章称其为二十一世纪被引最多的论文;截至 2025 年 5 月,他的论文引用超过 70 万次——数字来自他的谷歌学术。
同样的模式贯穿他的记录:Faster R-CNN 拿了 2025 年 NeurIPS 时间检验奖,Mask R-CNN 拿了 2017 年 ICCV 马尔奖,PReLU 拿了 2025 年 ICCV 亥姆霍兹奖,第一篇去雾论文拿了 2009 年 CVPR 最佳论文;没有一篇需要新硬件。
一条走直线的职业路径
他的履历异常线性:2007 年清华本科,2011 年在香港中文大学师从汤晓鸥获博士(后者创办商汤),2011 至 2016 年在微软亚洲研究院,2016 至 2024 年在 Facebook 人工智能研究院,2024 年起在麻省理工,随后获终身教职,2025 年兼任 DeepMind。
他从未经营过公司。同辈大批去创业,他留在实验室,做出来的东西照样进了别人的产品。
终身教授到底交付了什么
他课题组的产出很好核:论文列表几乎每条带 arXiv、代码或项目页。
- MAR(NeurIPS 2024,亮点)表明自回归图像模型不需要离散分词器:小的扩散头可直接建模连续 token,去掉管线一级。
- MeanFlow(NeurIPS 2025,口头报告)学的是一个时间区间上的平均速度场,而不是瞬时速度,一次网络评估就能出样本。
- 《回到基础:让去噪生成模型去噪》(CVPR 2026;技术报告 2025 年 11 月)是与李天宏合写的、最有主张的一篇。
去噪这个论证,说白了
现代生成器用去噪目标训练:拿干净样本,加噪,让网络还原。但多数大系统不要求网络输出干净图像,而是输出噪声或沿噪声日程推动样本的速度,因为这些目标训练早期数值更稳。
《回到基础》主张这条绕路变贵了:如果任务是预测速度,一部分容量就花在记账上。改成预测干净信号,质量提升,且模型越大、数据维度越高差距越明显——视频和三维生成正朝那里走。
后果不小:更少参数或采样步就能保住质量,每张图、每秒视频更便宜——这是演示和日用品之间的差别。MeanFlow 从采样端推同一根杠杆:标准扩散每个样本要几十次评估,若学到一步之内的平均流,一次可能就够。
为什么这在实验室之外重要
为推理付费的人。生成按 GPU 秒计价,一步采样器或同等质量下更小的网络,会改写卖生成能力应用的单元经济。
在开放权重上做东西的人。他课题组的选择往往一年内变成别人仓库的默认值;MAR 的无分词器配方,对想在图上学语言模型式扩展的人很关键。
关注资深研究者去向的人。他在大陆受教育,在香港读博,在美国工业实验室建成职业,最后拿到终身教席——这条路存在,很窄。
关键要点
- 残差连接把深度从障碍变成可用维度,今天的模型几乎都带着它。
- 他当前的论点是:生成模型该直接预测干净信号,不是噪声或速度。
- MAR 与 MeanFlow 分别从建模和采样两端降成本。
- 他的选择常在一两年内成为开源社区默认。
诚实的局限
本文由一手文件构成:他的院系主页、个人主页与论文列表、论文背后的 arXiv 记录,加上关于 DeepMind 任命的报道。我没采访他,所以这里的推理是我对论文的读解,不是他的话;也因此没有直接引语。
引用数字和"本世纪被引最多"来自主页自述,所引《自然》文章没复核。奖项信息来自他和麻省理工,2025 至 2026 年的奖太新,第三方汇总未跟上。
技术部分简化了一场仍在进行的争论:干净信号预测会不会在超大规模视频模型上成为默认尚无定论,我也看不到他在 DeepMind 的工作。中文流行传记里高考满分一类的细节无法从机构来源确认,没有写入。
普通人现在能做什么
- 选边前,读 2025 年 11 月那份技术报告和代码,消融实验本身就是论证。
- 如果你微调扩散模型,做那个便宜实验:同等质量下把速度预测换成干净样本预测,比较每秒出样数。
- 单步采样器是成本杠杆,不是猎奇。给生成功能定价时,问供应商用哪种采样器、多少步。