
芯片圈有个共识:全世界最难写的代码,叫 CUDA。
它直接指挥 GPU 干活,一毫秒都不能浪费。过去,能写好它的人屈指可数,年薪百万起步,还得拼天赋。
现在,AI 入场了。
最近,清华大学和字节跳动 Seed 团队联手开源了一个系统——CUDA Agent。
一句话:专门训练大模型写 GPU 底层代码,写得比人快,比编译器还快。
为什么这事儿重要?
先说背景。以前 AI 写普通代码还行,一碰 CUDA 就露馅:语法全对,跑起来慢得离谱。测试里,基础模型生成的代码,只有 27% 能跑赢编译器,平均下来比编译器还慢。
CUDA Agent 换了个思路:让大模型直接泡在真实的 GPU 环境里练。旁边配好性能分析工具、正确性校验、安全沙箱。写错了,当场打回重来。就这么强化学习 150 轮。
结果呢?
250 道题,通过率冲到 98.8%。96.8% 的代码跑得比编译器快,平均提速 2.11 倍。最难的那一档,直接甩开 Claude、Gemini 一大截。
这意味着什么?
过去,算力优化靠人海战术——堆最贵的硬件工程师,一行行抠性能。现在,这条路要被 AI 重构了:最稀缺的底层优化人力,开始被强化学习训出来的智能体替代。
用作者的话说:这会重写 AI 硬件的经济学。
翻译成人话:以后跑大模型的成本,可能还要再降一截。
当然,别急着慌。完整模型权重还没公开,目前只开源了数据集和训练配方。
但方向已经摆在那了——AI 不再只是写写网页、做做表格,它开始触碰整个行业最深的地基。
地基都在动,上面的人,迟早得挪窝。
留言 0
还没有留言,快来抢沙发