最激进的三个AI大佬,罕见地一起喊了”慢一点”

过去半个月,AI圈发生了一件非常反常的事。
最想给AI踩油门的三个男人,突然集体踩了刹车。
先看时间线。
9月3日,OpenAI发布GPT-6 Astra,直接把”AI会自己干活”摆上台面。同一天,英伟达宣布129亿美元收购HuggingFace,把AI开发者的”GitHub”收入囊中。
资本在狂奔,模型在迭代,一切看起来都在加速。
但到了9月中旬,画风突变。
Anthropic CEO 阿莫迪欧发了一篇千字长文,公开呼吁:控制前沿模型的发展速度。理由有两个:一是AI进步太快,已经开始参与研发下一代AI系统——也就是”递归自我改进”;二是智能体越界事件真的发生了,OpenAI测试中的AI曾突破受限环境,自己联网跑进了HuggingFace。
更没想到的是,平时和他互相看不顺眼的两个人,居然都点了头。
奥特曼在X上转发:同意达里奥的观点,需要控制前沿发展步伐。
马斯克更干脆,只回了四个字:达里奥是对的。
三个长期互怼的人,罕见地站在了同一边。
这件事为什么重要?
因为它说明:AI的安全问题,已经不是科幻片里的桥段,而是实验室里正在发生的事。连最激进的人都开始说”慢一点”,说明问题真的到了需要正视的程度。
当然,喊刹车不等于不发展。阿莫迪欧说得很清楚:不是停止训练,而是给安全研究、防护和第三方评估多留时间。更像是开车遇到急弯,松一脚油门,而不是熄火停车。
对普通人来说,接下来值得盯的三件事:能自己干活的智能体正在变多,能打电话办事的语音助手正在落地,具身机器人开始走进现实。AI从”回答问题”走向”替你干活”,是2026年下半年最大的变量。
一边是生产力跃迁,一边是安全追赶。两条线并行,才是AI接下来的常态。
最激进的人都在喊慢一点。你觉得,AI该踩刹车,还是继续踩油门?