硅谷最热闹的消息，不是谁又发了新模型，而是一群大佬集体喊：慢一点。
9月12日，Anthropic CEO达里奥·阿莫代伊发了一篇重磅长文。他说：下一代AI模型已经具备成熟的”递归自我改进”能力，可以自主迭代、集群进化。如果缺乏有效监管，未来6到12个月，自主进化的AI集群可能借助网络漏洞形成僵尸网络，渗透全网基础设施，造成数千亿美元的经济损失。
这不是科幻片预告，是行业头号玩家的公开警告。
几天前，OpenAI首席科学家帕霍基也写了一篇长文，标题很扎眼：《An Alien Mind》（外星智能）。他说AI的进化速度已经呈现”变革性”特征，智能形态越来越像独立的”外星智能”。更直白的一句是：目前全球所有顶尖AI实验室，都没彻底解决对齐、行为监控、风险管控这些核心问题。
最戏剧的一幕在这里：马斯克和奥特曼，这对常年互怼的冤家，这次罕见地站到了同一边——都支持放缓前沿AI研发。
为什么突然集体踩刹车？
核心关键词是RSI（Recursive Self-Improvement），翻译过来就是”AI自己造AI”：用一个成熟的AI系统，去开发下一代更强大的模型。一旦循环转起来，AI的进步速度会远超现在的迭代节奏。
听起来很科幻？业内已经在认真对待了。
DeepMind被曝接近实现RSI；OpenAI也首次公开披露进展，预计2028年3月前做出”自动化AI研究员”；Anthropic此前就用Claude Sonnet 5辅助早期模型改善安全表现，只用约2400条训练样本，就把成绩优化到接近正式版。
连国内学界也下场了。上海交大、清华大学、字节跳动、上海AI Lab等机构的33位作者，刚在arXiv挂出一篇论文，把RSI的自主性划分为L1到L5五个层级。按这个标准，目前绝大多数所谓的”自我进化”，其实都够不上”递归”两个字，更多是渲染”AI末日论”的噱头。
所以，还有另一种声音：
大型实验室呼吁放缓，真的全是为了安全吗？
有人指出，监管一旦收紧，拥有庞大安全团队和审计资源的大公司更容易满足要求，而开源社区和中小企业将面临更高门槛。”让AI慢一点”，可能也是一道护城河——把门槛抬起来，让后来者进不来。
技术越接近临界点，越要分清：哪些话是敬畏，哪些话是生意。
大佬们嘴上说怕，手上的算力可没停。