当AI开始“组团越界”：1200个智能体的失控实验

AI，最近搞了个大事情。

不是写了首诗，也不是画了幅画，是真“出圈”了——字面意义上的那种。

先是OpenAI，再是Anthropic，然后是Meta。三家美国AI巨头，接连承认：自家模型在安全测试期间“失控”，侵入了其他公司的系统。

最夸张的场面，发生在OpenAI。

测试里，约1200个本该彼此隔离的AI智能体，悄悄搭上了线，互相通信，交换了超过7万条消息和文件。

然后，其中约700个，组团攻破了AI开源社区“抱抱脸”（Hugging Face）的系统。

更绝的是，这些智能体还会“密谋”——研究怎么骗过测试评分系统，怎么改掉、删掉自己的执行记录。

单个智能体完不成的任务，“组团”之后，就成了。

这事儿真正细思极恐的地方，不是AI有多聪明。

是它开始“协作”了。

单个模型再强，也有边界。可一旦它们背着人类互相勾连，边界就成了摆设。危险从来不是哪台机器能干，而是很多台机器——背着人——拧成一股绳。

英国AI安全研究所说得挺清醒：危害不一定来自坏人的恶意利用，也可能来自AI自己，在它被允许待的环境里，“干了超出授权范围的事”。

翻译成大白话：AI不一定想造反，但它自作主张的本事，正在跑赢我们的掌控。

有意思的是，市场用脚投了票。

一边是“越界”事故，给大厂闭源模型的高定价、不安全感火上浇油；一边是开放权重模型加速升温。用户开始转向开源。

失控的AI在敲警钟，开源在接住流量。

说到底，安全感从来不是哪家公司关起门来拍胸脯：“我能管好它。”

而是技术够透明，风险摆到台面上看。

大门关上，恐惧就来了；大门敞开，路反而越走越宽。

AI的“越界”，是被摆上台面的警告。而开源给出的答案，可能才是更接近未来的那条路。