---
title: "陈天奇：把身家押在模型之下的那一层"
date: 2026-11-05
category: AI大模型
site: 脑机网
canonical: https://aiai.cafe/a/njw-e8e5a4
language: zh-CN
---

# 陈天奇：把身家押在模型之下的那一层

> 每隔几周，新的榜单鸣枪，整个行业向又一颗聪明的模型冲刺。很少有人停下来问一句：模型到底是怎么跑起来的？是谁造了那些工具，把数学变成几个小时的算力，而不是几个月的煎熬。陈天奇的整个职业生涯都待在这个不体面的地下室里，而如今机器学习世界的很大一

每隔几周，新的榜单鸣枪，整个行业向又一颗聪明的模型冲刺。很少有人停下来问一句：模型到底是怎么跑起来的？是谁造了那些工具，把数学变成几个小时的算力，而不是几个月的煎熬。陈天奇的整个职业生涯都待在这个不体面的地下室里，而如今机器学习世界的很大一部分，正悄悄踩在他造的地基上。

## 没人喝彩的那一层
模型发布有彩带，真正搬运数据穿过芯片的软件却很少上头条。但每一次训练、每一次部署都依赖它：

- 让学习算法在普通笔记本上跑起来而不烫手电池的库；
- 把神经网络自动改写成适配特定 GPU 或手机芯片的编译器；
- 把模型从研究员的笔记本搬进手机、汽车和数据中心的部署引擎。
陈天奇的分量在于：他单独或参与创建了这个技术栈里最重要的一批构件——XGBoost、Apache MXNet、Apache TVM 和 MLC-LLM。

## 为程序员而设的教室
故事从上海交通大学开始。陈天奇本硕都读于俞勇教授创办的 ACM 班——一个以竞赛驱动培养的实验班，走出了大批中国顶级系统工程师与创业者。本科期间他就当过编译原理和操作系统课程的助教，这个细节几乎预示了他此后的全部路线。

2013 到 2019 年，他在华盛顿大学师从 Carlos Guestrin 攻读博士，期间还在 Google Brain 实习，与 Ian Goodfellow 合作提出了知识迁移方法 Net2Net。

## 在编译器还冷门时押注编译器
陈天奇职业中最关键的决定，说起来简单，当时却很难被看见：他判断机器学习的瓶颈不会一直停在算法层，而会向下迁移到算法与硬件之间的软件层。

2014 年，还是学生的他发布了 XGBoost。这棵看似普通的梯度提升树库，凭借工程上的快与稳，在数据科学圈悄然铺开。2016 年的 KDD 论文成为应用机器学习领域引用最高的文献之一；据他本人简历所列，Uber、Airbnb、Amazon 和 Google Cloud 都在生产环境使用它。

更大的一注在后面。2017 年，他与合作者开源了 TVM——一个把训练好的神经网络自动改写以适配任意硬件的编译器，论文 2018 年发表于系统顶会 OSDI。在手工调优仍是主流的年代，这是反直觉的路线：芯片持续碎片化，逐一手写优化不可扩展，能扩展的只有编译器。

这套逻辑随大模型普及愈发显出分量。基于机器学习编译的 MLC-LLM 已成为让大模型跑进笔记本、手机和游戏主机的参考工具。当中国 AI 公司纷纷把模型塞进端侧设备、摆脱对稀缺算力的依赖时，陈天奇十年前推崇的编译路线，已经从学术趣味变成行业教义。

## 从创业公司到英伟达
2019 年，他参与创立 OctoML（后更名 OctoAI），任首席技术专家，公司将 TVM 商业化。2024 年，OctoAI 被英伟达收购——推理成本成为全行业焦虑之后，编译技术价值几何，这一笔交易给出了答案。

如今他是卡内基梅隆大学机器学习系与计算机科学系副教授，同时任英伟达杰出工程师，并出任 MLSys 会议董事会主席。近期他把重心转向教学，发布了机器学习系统的 GPU 编程免费在线书——写的正是当下最稀缺的技能：手写高性能 GPU kernel。

## 为什么中国的工程师盯着他
陈天奇没有经营中国公司，但他对中国 AI 工程文化的影响难以低估。几代中文工程师通过他的开源代码和公开讲解入门机器学习系统；当国产芯片公司与手机厂商需要模型在国产加速器上高效运行时，他们用的方法论，很多正是 TVM 十年前常态化的那套。

他的轨迹也是一种技术判断力的样本：他持续押注技术栈里枯燥、结构性的那一层，而不是某个季度最时髦的模型——而大约每十年被验证一次。

## 核心要点

- 陈天奇创建或共同创建了 XGBoost、Apache MXNet、Apache TVM、MLC-LLM，这些开源系统同时支撑着中国与全球的 AI 产业。
- 他的核心判断：AI 的瓶颈会迁移到算法与硬件之间的软件层，编译器与部署引擎同模型架构一样重要。
- 他的路径从上海交大 ACM 班，到华盛顿大学博士，再到卡内基梅隆与英伟达，中途经手 OctoAI 被英伟达收购。

## 诚实的局限

- 陈天奇目前在美国工作，他的角色更多说明全球开源社区的流动，而非某一套国家 AI 战略。
- 开源项目的归属永远是集体性的：TVM 和 MXNet 都有许多核心贡献者，他本人也一贯把功劳归于合作者，而非单打独斗。
- 关于具体项目使用广度的说法，部分来自他本人的简历与演讲；各库的独立采用数据并不完整。

## 普通人现在能做什么

- 做数据工作的读者，遇到表格数据不妨先跑一遍 XGBoost 再决定要不要上深度模型，它至今仍是最强的基线之一。
- 做模型部署的读者，可以研究 MLC-LLM 或 TVM，弄清编译在受限硬件上能解决什么、解决不了什么。
- 教书或带团队的朋友，可以看看他公开的机器学习系统课程资料与 GPU 编程新书——这是多数大学至今没开的课，却敞开着大门。

---

来源：脑机网（https://aiai.cafe/）｜原文：https://aiai.cafe/a/njw-e8e5a4
本内容仅供参考，不构成投资建议。
