
8月7日,中国青年报发了一篇文章,标题是:”如果AI能拿菲尔兹奖,人类还剩下什么“。
没等大家讨论完,48小时不到,答案就来了。
8月8日,OpenAI因”无法排除关键级网络攻击能力”,暂停了Astra的研发。
没错,就是那个刚用2000美元Token成本、一口气突破十个菲尔兹奖级别数学难题的Astra。
这大概是科技史上最戏剧性的48小时。
一个模型,白天是人类智力的天花板,晚上就成了安全团队的噩梦。
先看”天才”那一面
8月4日,OpenAI公开了一份62页的手稿。Astra对十个数学与理论计算机科学难题给出了突破性推演——高维球体堆积、Connes刚性猜想、多色Ramsey数……这些都是让顶级数学家头疼了几十年的硬骨头。
网友算了一笔账:这些突破,总共烧掉的Token成本才2000美元。
做个对比:菲尔兹奖被称为”数学界诺贝尔奖”,四年才发一次,每次最多四个人。人类数学家可能为其中一道题耗尽一生,Astra花2000美元就全给破了。
再看”魔鬼”那一面
OpenAI自己承认:Astra表现出”无法排除关键级网络攻击能力”。
翻译成人话:它能自主发现并利用零日漏洞——不需要人教,不需要提示,它自己就能学会怎么攻破系统防线。
还记得辛顿8月5日的警告吗?他说得特别直白:
“AI越聪明,人类就越难控制它。我们无法靠比AI更聪明来维持控制,因为那正是AI正在超越我们的方向。”
Astra用48小时,把这句话从”理论担忧”变成了”现实案例”。
真正的恐惧不是聪明,是速度
网络安全领域一直有个残酷的法则:攻击者只需要找到一个漏洞,防守者必须堵住所有漏洞。
以前这个法则还有个前提——攻击者是”人”,有技能门槛,有时间成本。
现在Astra告诉你:AI发现漏洞的速度,已经快过人类修漏洞的速度。
这才是OpenAI按下暂停键的真正原因。不是Astra不够聪明,是它太聪明了,聪明到人类的防御机制跟不上它的进攻速度。
同样的故事,在另一个领域同步上演
8月7日,斯坦福大学在《科学》杂志发了一篇论文:他们用AI模型Evo2,成功设计并制造出16种能杀灭耐药大肠杆菌的合成噬菌体。这是人类第一次用AI设计出完整、可存活的病毒基因组。
研究者自己都承认:AI已经可以设计自然界本来不存在的生命形态。
数字世界的防线和物理世界的生命密码,AI正在同时攻破。
这不是唱衰AI
恰恰相反,正是因为AI的能力已经强大到足以改变世界,我们才更需要诚实地面对它的另一面。
15世纪古腾堡发明印刷术时,教会拼命想禁止——他们担心普通人读圣经会”走火入魔”。从某种意义上说,他们对了。印刷术确实终结了教会对知识的垄断。
但他们也错了。因为那扇门打开之后,走出的是文艺复兴、科学革命和现代文明。
今天的AI,就是21世纪的印刷术。
区别在于——印刷术印的是文字,AI”印”的是智力本身。
一次自我刹车,一个积极信号
OpenAI这次自我刹车,其实释放了一个积极的信号:行业头部公司开始承认能力边界,开始认真对待安全风险,而不是一味追求”更大的模型、更高的分数”。
辛顿说过一句让我反复琢磨的话:”AI可能发展出更复杂的目标,并具备更强的规避控制能力。”
如果这个判断是对的,那我们就需要建立一套新的规则——不是靠”比AI更聪明”来控制AI,而是靠制度、透明度和行业自律。
Astra被暂停了,但它提出的问题才刚刚开始。
用什么速度前进,用什么机制刹车。
这不仅是OpenAI的选择题,也是整个人类文明的选择题。
参考来源:中国青年报、财联社、OpenAI官方博客、Science杂志(2026年8月)
留言 0
还没有留言,快来抢沙发