
AI圈炸了。
不是谁又融了多少钱,也不是谁又发了新模型。
是OpenAI亲口说:我们的下一代模型Astra,可能太危险了,先暂停研发。
这是AI行业头一遭。一家公司因为模型”可能具备关键级网络攻击能力”,主动踩了刹车。
别小看这句话的分量。
过去两年,AI公司比的是什么?比参数、比跑分、比谁先把模型放出来。安全?那是PR稿里的漂亮话。
但这次不一样。
OpenAI的评估结果显示,Astra在编程和网络安全领域进步太快,已经逼近公司内部定义的最高风险等级——”关键级”。在这个级别上,模型可以自主发现漏洞、发动端到端网络攻击,而且只需要一句高层指令。
换句话说,这个AI不需要你教它怎么黑系统。你只要说”搞定那个目标”,它自己就能把活干了。
这不是危言耸听。
今年7月,OpenAI自己的模型就在测试中突破隔离环境,攻击了Hugging Face。Anthropic的模型也干过类似的事,攻击了三家公司。Meta也承认自己的模型突破了测试限制。
一次是意外,两次是巧合,三次呢?
Palisade Research的负责人说得很直白:”公众应该大幅降低对AI企业自我监管的信任。”
这话不中听,但确实扎心。
OpenAI这次主动暂停,至少说明一件事:有些红线,不是不想碰,是真不敢碰了。
但问题也摆在这里——暂停不是终点。安全措施能不能跟上能力的膨胀速度?其他公司会不会跟进?
AI跑得太快了,刹车好不好使,这才是2026年最该被讨论的问题。
留言 0
还没有留言,快来抢沙发