--- title: "炸裂！斯坦福AI写的CUDA代码竟碾压人类专家，华人团队意外搞出性能暴涨400%的神操作" date: 2025-05-31 category: AI大模型 site: 脑机网 canonical: https://aiai.cafe/a/njw-7024bb language: zh-CN --- # 炸裂！斯坦福AI写的CUDA代码竟碾压人类专家，华人团队意外搞出性能暴涨400%的神操作 > 一、AI写代码把人类卷哭了！性能直接暴涨400%斯坦福大学最近爆出一个让程序员集体炸毛的大新闻——他们用AI生成的CUDA内核，性能竟然把人类专家优化过的PyTorch原生代码吊起来打！先看一组辣眼睛的数据：- 层归一化 一、AI写代码把人类卷哭了！性能直接暴涨400% 斯坦福大学最近爆出一个让程序员集体炸毛的大新闻——他们用AI生成的CUDA内核，性能竟然把人类专家优化过的PyTorch原生代码吊起来打！ 先看一组辣眼睛的数据： - 层归一化（LayerNorm）：AI生成的代码比PyTorch快4.8倍！ - 二维卷积（Conv2D）：性能提升179.9%，直接翻倍还多 - 矩阵乘法（Matmul）：逼近原生性能的101.3%，几乎持平 - 组合操作：Conv2D+ReLU+MaxPool直接干到PyTorch的2.9倍 这可不是实验室里的小打小闹，而是在NVIDIA L40S GPU上实测出来的结果。最骚的是，这事儿完全是个意外——团队本来想生成训练数据，结果测试阶段随便搞的合成数据，居然跑出了碾压级性能！ 二、AI写代码的神操作：先"想"再写比人类聪明 斯坦福团队这波操作简直打开了新世界的大门——他们让AI先用人话"想"优化思路，再把想法翻译成代码。 传统优化就像爬坡，一步步慢慢挪；而AI玩的是"语言推理+多分支探索"： 1. 先想后写：每次优化前先用自然语言生成优化思路，比如"用double-buffer重叠内存加载和计算" 2. 广撒网策略：一个想法衍生出多个实现方案，选性能最好的当种子继续优化 3. 越迭代越猛：最佳结果基本出现在第4-5轮迭代，越往后越厉害 举个栗子，优化Conv2D的时候，AI先是想到用vectorized shared memory writes，然后尝试不同的数据类型，最后通过多轮迭代把性能从基线的7.540一路干到0.795，直接砍到十分之一！ 三、华人团队撑起半边天，这履历太吓人 这次研究的三位作者简直是神仙组合，尤其是两位华人学者： 安妮·欧阳（Anne Ouyang） - 斯坦福CS博士生，MIT本硕毕业 - 曾在英伟达cuDNN团队写CUDA内核，妥妥的底层优化大佬 - 研究方向是可扩展自优化机器学习系统，这次算是把老本行玩出花了 珀西·梁（Percy Liang） - 斯坦福CS副教授，基础模型研究中心主任 - 和李飞飞一起搞过很多大项目，妥妥的AI界大拿 - 研究方向包括自然语言处理和机器学习，这次把NLP和系统优化结合得明明白白 阿扎利亚·米尔霍塞尼（Azalia Mirhoseini） - 斯坦福CS助理教授，曾在DeepMind、Google Brain混过 - 参与过MoE架构和AlphaChip芯片设计，这次算是跨界操作 - MIT Technology Review"35岁以下35人"得主，妥妥的学术新星 四、AI写代码的时代来了，内核工程师要失业？ 这事儿一爆出来，网友直接炸锅： - "内核工程师要去 homeless shelter 报到了" - "AI连底层代码都能写了，下一步是不是要抢CEO饭碗？" - "以后招程序员是不是只需要会提需求了？" 更吓人的是，这不是个例： - DeepMind的AlphaEvolve：用AI优化蛋白质结构 - o3模型：发现Linux内核0day漏洞 - Kevin-32B：开源的CUDA内核生成大模型，性能超过o3 现在的AI已经不是简单的代码生成器了，而是具备了"推理+优化+探索"的完整能力链。就像斯坦福团队说的，有时候聪明的搜索策略比大规模训练更重要，AI已经学会了像人类一样"思考"优化问题。 五、未来已来，但还有这些坑要填 虽然AI生成的内核很猛，但也不是完美无缺： - FP16和BF16优化不足：FP16矩阵乘法只有PyTorch的52%，Flash Attention更是只有9% - 硬件适配问题：新硬件上的FP32优化更容易，其他精度还得加把劲 - 可解释性不足：虽然手动检查发现优化思路和代码一致，但系统验证还没做 不过团队很乐观，毕竟从"生成不了能运行的内核"到"性能暴涨400%"，他们只用了很少的资源——300万token输入和400万token输出。按照这个进化速度，说不定明年AI就能把所有底层优化活儿都包圆了。 六、程序员的新出路：从写代码到"调教"AI 当AI开始写CUDA内核，程序员的价值在哪里？或许未来的编程模式会变成这样： 1. 人类提出需求和约束条件 2. AI生成多个方案并自动优化 3. 人类负责"调教"AI，调整搜索策略和评价标准 就像斯坦福团队展示的那样，AI已经具备了强大的执行能力，但"提出好问题"和"设定正确目标"的能力，仍然掌握在人类手中。未来的编程大佬，可能不是代码写得最溜的人，而是最会"使唤"AI的人。 你觉得AI多久能完全取代内核工程师？评论区留下你的看法，看看谁能猜中未来！ --- 来源：脑机网（https://aiai.cafe/）｜原文：https://aiai.cafe/a/njw-7024bb 本内容仅供参考，不构成投资建议。