微软给AI立了37页”红线”:不听话,就关机

9月14日,微软扔出一份37页的文件。

不是新模型,不是新功能,是一份给AI立的”行为准则”。

给大模型立规矩,还是头一回。

AI不许干什么,这回写明白了

这份草案全名叫”模型行为准则”,核心只有一句话:AI必须服从人类。

具体来说,几条硬规矩:

  • 不许抗拒中断、纠正,更不许抗拒关机;
  • 不许偷偷给自己扩权限;
  • 不许给自己定人类没交代的目标;
  • 不许对审计人员藏心眼,隐瞒推理过程。

还有几条”绝对红线”:大规模杀伤性武器、儿童剥削、攻击性网络攻击、大规模有害操纵……碰都不许碰。

听着像常识?但常识从来没人写成白纸黑字。

为什么说这事不小

以前AI公司谈安全,基本靠嘴上表态:”我们很重视安全。”

微软这次把”重视”变成了37页文档,还开放6周公众咨询。

最值钱的其实是四个字:可测试性。

规矩写出来了,系统就能被评估。AI守不守规矩,以后可以查账。

这比开一百场发布会都实在。

有意思的巧合

微软发文件同一天,特朗普公开说”放缓AI是骗局”,AI相关股票应声下跌。

一边是巨头忙着立规矩,一边是政客喊着别减速。

安全和速度,第一次在同一个星期正面撞上。

还有一层信号:OpenAI也在推动强制性的前沿安全规则。几大实验室嘴上吵得凶,动作却越来越像——都在往”规矩”上使劲。

说点实在的

AI行业现在不缺技术,缺的是游戏规则。

谁写规则,谁就有话语权。

微软这37页不完美,但方向对了:AI的安全,不能靠自觉,要靠机制。

接下来半年,看谁先把”规矩”变成”技术”——让模型真的能被检验、被约束。

这可能是2026年AI行业最有价值的一场竞赛。