每隔几周,新的榜单鸣枪,整个行业向又一颗聪明的模型冲刺。很少有人停下来问一句:模型到底是怎么跑起来的?是谁造了那些工具,把数学变成几个小时的算力,而不是几个月的煎熬。陈天奇的整个职业生涯都待在这个不体面的地下室里,而如今机器学习世界的很大一部分,正悄悄踩在他造的地基上。
没人喝彩的那一层
模型发布有彩带,真正搬运数据穿过芯片的软件却很少上头条。但每一次训练、每一次部署都依赖它:
- 让学习算法在普通笔记本上跑起来而不烫手电池的库;
- 把神经网络自动改写成适配特定 GPU 或手机芯片的编译器;
- 把模型从研究员的笔记本搬进手机、汽车和数据中心的部署引擎。
陈天奇的分量在于:他单独或参与创建了这个技术栈里最重要的一批构件——XGBoost、Apache MXNet、Apache TVM 和 MLC-LLM。
为程序员而设的教室
故事从上海交通大学开始。陈天奇本硕都读于俞勇教授创办的 ACM 班——一个以竞赛驱动培养的实验班,走出了大批中国顶级系统工程师与创业者。本科期间他就当过编译原理和操作系统课程的助教,这个细节几乎预示了他此后的全部路线。
2013 到 2019 年,他在华盛顿大学师从 Carlos Guestrin 攻读博士,期间还在 Google Brain 实习,与 Ian Goodfellow 合作提出了知识迁移方法 Net2Net。
在编译器还冷门时押注编译器
陈天奇职业中最关键的决定,说起来简单,当时却很难被看见:他判断机器学习的瓶颈不会一直停在算法层,而会向下迁移到算法与硬件之间的软件层。
2014 年,还是学生的他发布了 XGBoost。这棵看似普通的梯度提升树库,凭借工程上的快与稳,在数据科学圈悄然铺开。2016 年的 KDD 论文成为应用机器学习领域引用最高的文献之一;据他本人简历所列,Uber、Airbnb、Amazon 和 Google Cloud 都在生产环境使用它。
更大的一注在后面。2017 年,他与合作者开源了 TVM——一个把训练好的神经网络自动改写以适配任意硬件的编译器,论文 2018 年发表于系统顶会 OSDI。在手工调优仍是主流的年代,这是反直觉的路线:芯片持续碎片化,逐一手写优化不可扩展,能扩展的只有编译器。
这套逻辑随大模型普及愈发显出分量。基于机器学习编译的 MLC-LLM 已成为让大模型跑进笔记本、手机和游戏主机的参考工具。当中国 AI 公司纷纷把模型塞进端侧设备、摆脱对稀缺算力的依赖时,陈天奇十年前推崇的编译路线,已经从学术趣味变成行业教义。
从创业公司到英伟达
2019 年,他参与创立 OctoML(后更名 OctoAI),任首席技术专家,公司将 TVM 商业化。2024 年,OctoAI 被英伟达收购——推理成本成为全行业焦虑之后,编译技术价值几何,这一笔交易给出了答案。
如今他是卡内基梅隆大学机器学习系与计算机科学系副教授,同时任英伟达杰出工程师,并出任 MLSys 会议董事会主席。近期他把重心转向教学,发布了机器学习系统的 GPU 编程免费在线书——写的正是当下最稀缺的技能:手写高性能 GPU kernel。
为什么中国的工程师盯着他
陈天奇没有经营中国公司,但他对中国 AI 工程文化的影响难以低估。几代中文工程师通过他的开源代码和公开讲解入门机器学习系统;当国产芯片公司与手机厂商需要模型在国产加速器上高效运行时,他们用的方法论,很多正是 TVM 十年前常态化的那套。
他的轨迹也是一种技术判断力的样本:他持续押注技术栈里枯燥、结构性的那一层,而不是某个季度最时髦的模型——而大约每十年被验证一次。
核心要点
- 陈天奇创建或共同创建了 XGBoost、Apache MXNet、Apache TVM、MLC-LLM,这些开源系统同时支撑着中国与全球的 AI 产业。
- 他的核心判断:AI 的瓶颈会迁移到算法与硬件之间的软件层,编译器与部署引擎同模型架构一样重要。
- 他的路径从上海交大 ACM 班,到华盛顿大学博士,再到卡内基梅隆与英伟达,中途经手 OctoAI 被英伟达收购。
诚实的局限
- 陈天奇目前在美国工作,他的角色更多说明全球开源社区的流动,而非某一套国家 AI 战略。
- 开源项目的归属永远是集体性的:TVM 和 MXNet 都有许多核心贡献者,他本人也一贯把功劳归于合作者,而非单打独斗。
- 关于具体项目使用广度的说法,部分来自他本人的简历与演讲;各库的独立采用数据并不完整。
普通人现在能做什么
- 做数据工作的读者,遇到表格数据不妨先跑一遍 XGBoost 再决定要不要上深度模型,它至今仍是最强的基线之一。
- 做模型部署的读者,可以研究 MLC-LLM 或 TVM,弄清编译在受限硬件上能解决什么、解决不了什么。
- 教书或带团队的朋友,可以看看他公开的机器学习系统课程资料与 GPU 编程新书——这是多数大学至今没开的课,却敞开着大门。