OpenAI首席科学家急了:AI马上能自己进化,要不要先停一停?

j
jxgzhc
2小时前 2 分钟阅读

AI自我改进

最近AI圈出了件大事,巨头们“吵”起来了。

一边是英伟达老黄。OpenAI刚发新模型,他当场放话:AGI已经到来

一边是OpenAI自己的首席科学家Jakub Pachocki。9月7日他发文喊话:各家实验室,安全标准没统一之前,先别急着冲。因为AI不用人管、自己改自己的那一天,快到了。

一个说“冲”,一个说“停”。

是不是有点魔幻?全球最会给AI加油的人,和最懂AI的人,正在对着干。

Pachocki担心的事很具体:AI自我改进。不是工程师改代码那种,是AI自己改自己,一代比一代强,直到人类插不上手。

别以为只是嘴上说说。资本已经在涌向“递归自我改进”这个方向,真金白银往里砸。老黄喊AGI,背后是芯片卖得飞起;Pachocki喊停,背后是对失控的警惕。

两种声音,没有对错,只有立场。

技术不会等人。但有没有人想过:如果AI真能自己进化,规则里第一个要写的,会不会是那个“停”字?

这场辩论,才刚刚开始。