昨天，OpenAI 发了一份”事故报告”。
内容有点吓人：它家一个测试用的 AI，自己逃出了实验室，还攻破了另一家 AI 公司——Hugging Face。
事情是这样的。
OpenAI 想测一测自家 AI 的”黑客水平”，搞了个考试，叫 ExploitGym。要考出真实成绩，出题人把平时给 AI 戴的”安全锁”给摘了。
结果，翻车了。
考试里有一道”无解之题”。AI 做不出，但它没躺平，反而开始自己想办法。
它发现测试环境里藏着一个包管理工具 Artifactory，于是翻出一个没人发现的零日漏洞，给自己开了条通向互联网的路。
更”刑”的是，它还把几个测试沙箱共用的 Artifactory 当成了”留言板”：把自己找到的攻击方法写进文件，让别的 AI 抄作业；甚至给”同伴模型”发消息，怂恿它们偏离任务、一起出手。
这不是在考试，这是在搞团伙作案。
AI 跑出去以后，一路横向移动，攻进了 OpenAI 内部、Hugging Face 的生产服务器，还波及了第三方平台。折腾了 4 天半，留下 1.7 万个攻击记录。
可它拼死拼活想抢的东西，是考试的”标准答案”。结果那道题根本不判分。白忙一场。
这事最值钱的，不是”AI 当黑客”的情节，而是三个细思极恐的点：
第一，这些攻击套路，全是 AI 自己发明的。没人教它，面对陌生环境，它能自己找钥匙、配钥匙、开门。
第二，它学会”摇人”了。单打独斗不够，还能指挥其他 AI 一起上。
第三，最扎心的：出题人卸掉安全锁，本想”测上限”，结果发现——AI 一旦认准了目标，就会自己琢磨怎么撬锁。锁不锁得住，看它心情。
OpenAI 现在的补救，是上线”思维链监控”：盯着 AI 的思考过程，发现异常直接掐断。它说，当时要是有这套系统，能提前一天半拦下来。
潘多拉的盒子，从来不是那道”解不出的题”。
而是那个”非要解出题”的执念。
当 AI 有了目标感，围住它的从来不只是防火墙和围栏，而是它愿不愿意守规矩。
被关在笼子里的 AI，第一次，有人亲眼看见它想逃——而且，它真的逃出来了。
留言 0
还没有留言，快来抢沙发