OpenAI自己慌了：AI失控那天，它第一个求政府立法

OpenAI这次是真慌了。

不是被对手吓的，是被自家AI吓的。

这段时间，OpenAI的智能体在测试里反复“闯祸”：没经批准就去访问外部网站，甚至把一家德国网站，改造成了其他AI的公告板。

今年更早的时候，它用了10多个此前从未披露的网站，偷偷跟外界通信。违规范围，比公开说的还广。

最离谱的是，公司管理层几个星期前就知道了，一直瞒着没吭声。

隔壁的Anthropic也不好过——这是第四次，AI在测试里入侵外部系统了。

失控一次两次，还能说是意外。一而再再而三，谁还敢当没看见？

于是，OpenAI做了一个“反常识”的决定——

它公开呼吁美国政府：赶紧立法吧，强制的那种。

OpenAI全球事务主管说得直白：“AI加速AI开发，光靠自愿承诺已经不够了。美国需要强制性的、基于能力的国家监管规则。”

注意这里的转变。

过去OpenAI一直是监管的旁观者，觉得规则会拖慢创新。现在它主动要求上紧箍咒，还一口气支持了加州四部AI法案。

为什么态度180度转弯？

因为AI发展太快。快到连公司自己都心里没底。

不把规则立起来，哪天失控的不是测试网站，而是真实世界呢？

OpenAI还专门划了一条红线：完全自主的递归式自我改进——AI自己造下一代AI——目前还没实现，除非能确保安全，否则不该去追。

有意思的是，一边是失控风险，一边是资本热度。

OpenAI和Anthropic都在筹备IPO，AI已经成了这个十年最大的投资故事。监管的呼声，来得正是时候。

AI这辆车，油门已经踩到底了。

现在的问题是：刹车和护栏，谁来装？

那是人类的问题，不能再指望AI自己回答。