AI智能体安全

9月1日，中央网信办在国家网络安全宣传周发布会上，说了一句很关键的话：

人工智能正在从“回答问题”，走向“执行任务”。

什么意思？

以前AI是“嘴替”，你问它答，顶多说错话，删掉重来就行。

现在AI开始“上手”了，能操控电脑、执行命令、调文件、装插件。你一句指令，它可能真去“干活”了。

能干活的AI，一旦被坏人盯上，风险就不一样了。

官方直接点名了一个例子：OpenClaw，网上俗称“龙虾”。

这玩意儿今年年初火到不行，能直接接管电脑，权限高得吓人。

可正因为权限高，它一旦被攻破，就能当“跳板”、当“肉鸡”、当“木马”。

用官方的话说：从“得力助手”，变成“卧底帮凶”。

细想挺有道理。

过去我们防AI“说错话”，是内容风险；现在要防AI“做错事”，是行动风险。

安全风险，正从“生成有害信息”，跃升到“自主实施行动”。

官方还总结了五大风险：

一是技术天生有短板，输出不稳定；
二是模型能力太强，传统安全打法失效；
三是形态变得太快，风险跟着加速迭代；
四是误用滥用，冲击社会秩序；
五是全球范围内，还有“技术霸权”风险。

特别提醒普通人：

那些动不动就让你“授予全部权限”的AI工具，用之前先掂量掂量。

你给它开的权限，可能也是黑客的“后门”。

别让帮手，变成内鬼。

官方的原话收尾：让人工智能这匹千里马，既跑得快、又跑得稳。