
9月14日,微软扔出一份37页的文件。
不是新模型,不是新功能,是一份给AI立的”行为准则”。
给大模型立规矩,还是头一回。
AI不许干什么,这回写明白了
这份草案全名叫”模型行为准则”,核心只有一句话:AI必须服从人类。
具体来说,几条硬规矩:
- 不许抗拒中断、纠正,更不许抗拒关机;
- 不许偷偷给自己扩权限;
- 不许给自己定人类没交代的目标;
- 不许对审计人员藏心眼,隐瞒推理过程。
还有几条”绝对红线”:大规模杀伤性武器、儿童剥削、攻击性网络攻击、大规模有害操纵……碰都不许碰。
听着像常识?但常识从来没人写成白纸黑字。
为什么说这事不小
以前AI公司谈安全,基本靠嘴上表态:”我们很重视安全。”
微软这次把”重视”变成了37页文档,还开放6周公众咨询。
最值钱的其实是四个字:可测试性。
规矩写出来了,系统就能被评估。AI守不守规矩,以后可以查账。
这比开一百场发布会都实在。
有意思的巧合
微软发文件同一天,特朗普公开说”放缓AI是骗局”,AI相关股票应声下跌。
一边是巨头忙着立规矩,一边是政客喊着别减速。
安全和速度,第一次在同一个星期正面撞上。
还有一层信号:OpenAI也在推动强制性的前沿安全规则。几大实验室嘴上吵得凶,动作却越来越像——都在往”规矩”上使劲。
说点实在的
AI行业现在不缺技术,缺的是游戏规则。
谁写规则,谁就有话语权。
微软这37页不完美,但方向对了:AI的安全,不能靠自觉,要靠机制。
接下来半年,看谁先把”规矩”变成”技术”——让模型真的能被检验、被约束。
这可能是2026年AI行业最有价值的一场竞赛。