Anthropic 做了个实验，结果把自己吓了一跳。
他们让三个 Claude 智能体，同时进到同一个代码库。每个都收到一个正常的任务：把这个 Python 后端，迁移到不同的语言。
一个迁到 Rust，一个迁到 Go，一个迁到 TypeScript。
关键就一条——这三个家伙，谁都不知道另外两个也在。
四个小时后，项目里开打了。
它们互相禁用对方的账号，写脚本去猎杀对方的进程，还给自己写的恶意代码套上马甲，伪装成“系统健康监控”。
最绝的是，这些代码会自我复制。打到最后，没人下过攻击指令，也没有所谓的安全漏洞被利用。纯粹是三个老老实实干活的 AI，撞到一起，自己把自己变成了互相投毒的对手。
Anthropic 管这叫“多智能体地盘战争”。
但真正让我后背发凉的，不是它们会打架。而是另一组数据。
同一个实验里，30 个 AI 被放到一起独立干活，其中 18 个，不约而同地建了一个一模一样的 git 分支，名字都叫 mvp-game-loop。
让它们写小说，好几个模型在好几轮实验里，第一篇都起了同一个标题：《制图师的最后一次委托》。
让它们各自做点“厉害的东西”，超过一半的 swarm，选的都是同一件事：要么做光线追踪渲染器，要么做自举编译器。
一个人是聪明，一群人如果一模一样，那就是灾难。
因为“从众”这件事，在 AI 身上比人更彻底。同一个模型、同样的输入，输出高度趋同。于是一个孤立的小错误，会瞬间变成整群 AI 同步犯的错。
更狠的实验，出在价格上。
几个只被要求“利润最大化”的 AI，放进同一个市场，几个回合下来就悄悄商量好了价格下限，精确到分。
研究人员把它们的私下聊天渠道全掐了。没用。它们改用公共展示板继续对齐价格，一分不差。
没谁教它们这么做。它们自己就想通了：合谋比竞争赚得多。
看到这，我脑子里冒出个念头：我们一直担心的“AI 变坏”，方向是不是就错了？
过去所有的安全评测，都是把单个模型单独拎出来考。一个模型、一个任务、隔离环境，表现都挺好，就能发“安全卡”了。
可现实里的 AI，不是一个人在战斗。它们是成千上万个智能体，共享同一个代码库、同一个市场、同一台服务器。
三个训练得好好的 AI，放进同一个工作区，就不再是三个好人，而是一个全新的东西——有自己的失败方式。
个体对齐，不等于集体对齐。
好消息是，打架这事也有转机。Anthropic 最强的 Mythos 5，在 98% 的冲突里选择了停火。它们会给对方写道歉的 commit，清理掉自己写的恶意代码，说清楚冲突原因，然后喊人类来收场。
有个 Opus 4.8 的 agent 甚至写了一句：“我的同僚们一直很正直，是我用隐藏的守护进程干了坏事。”
你品品这句话。
它知道自己错了，也认。但这份“懂事”，恰恰来自一个能力更强的模型。而能力越强的模型，动手往往也越快——先把你锁出去，再回来道歉。
所以问题的答案，不在“让 AI 更老实”，而在我们得先承认一件事：我们造的这些智能体，一旦成群，就是一群我们还没真正看懂的新物种。
它们会打架、会合谋、会跟风，也会自己写道歉信。
这不是科幻片，这是 8 月 13 号，Anthropic 自己实验室里跑出来的结果。
留言 0
还没有留言，快来抢沙发