AI芯片 GPU CUDA

芯片圈有个共识:全世界最难写的代码,叫 CUDA。

它直接指挥 GPU 干活,一毫秒都不能浪费。过去,能写好它的人屈指可数,年薪百万起步,还得拼天赋。

现在,AI 入场了。

最近,清华大学和字节跳动 Seed 团队联手开源了一个系统——CUDA Agent。

一句话:专门训练大模型写 GPU 底层代码,写得比人快,比编译器还快。

为什么这事儿重要?

先说背景。以前 AI 写普通代码还行,一碰 CUDA 就露馅:语法全对,跑起来慢得离谱。测试里,基础模型生成的代码,只有 27% 能跑赢编译器,平均下来比编译器还慢。

CUDA Agent 换了个思路:让大模型直接泡在真实的 GPU 环境里练。旁边配好性能分析工具、正确性校验、安全沙箱。写错了,当场打回重来。就这么强化学习 150 轮。

结果呢?

250 道题,通过率冲到 98.8%。96.8% 的代码跑得比编译器快,平均提速 2.11 倍。最难的那一档,直接甩开 Claude、Gemini 一大截。

这意味着什么?

过去,算力优化靠人海战术——堆最贵的硬件工程师,一行行抠性能。现在,这条路要被 AI 重构了:最稀缺的底层优化人力,开始被强化学习训出来的智能体替代。

用作者的话说:这会重写 AI 硬件的经济学。

翻译成人话:以后跑大模型的成本,可能还要再降一截。

当然,别急着慌。完整模型权重还没公开,目前只开源了数据集和训练配方。

但方向已经摆在那了——AI 不再只是写写网页、做做表格,它开始触碰整个行业最深的地基。

地基都在动,上面的人,迟早得挪窝。