欧盟AI法案

今天凌晨,欧盟《人工智能法案》透明度条款正式落地。一句话说清楚:以后AI生成的内容,必须主动告诉你”我是AI”。

不是建议,是法律。不遵守,罚你750万欧元或者全球营收的1%,哪个高按哪个算。

什么是”亮明身份”?

新规说了三件事:

第一,所有对话类AI上线必须主动自证身份。打客服电话,AI接线员开口第一句就得告诉你它不是真人。聊天机器人不能假装是人类和你聊天。

第二,AI生成的图片、视频、音频,必须嵌入可机器识别的专属标识。不是角落里加个水印就行,得是能被算法扫描出来的那种。那些换脸视频、AI配音的造假内容,技术上直接给标注了。

第三,发布深度伪造内容必须主动标注,告诉公众这是人工生成的还是后期处理的。发布涉及公共利益的AI生成文本也必须标注,除非有人工审核并对内容负责。

这跟我们有什么关系?

你刷短视频刷到的那个”某某明星说了什么惊天大瓜”,如果是AI生成的,平台必须给你标出来。你收到的诈骗电话用AI模仿了你家人声音,技术层面多了一道防线。你在网上看到的任何信息,是人是鬼,至少法律给你要了一个知情权。

这不是锦上添花,这就是数字世界的基础设施。就像食品要有配料表,药品要有说明书,AI内容也得有”出生证明”。

全球180多家企业签了,唯独Meta拒绝

谷歌、微软、OpenAI等180多家科技企业已经主动签署了配套自律准则。但Meta拒绝了。

扎克伯格的逻辑也不难理解:Meta的核心业务就是内容分发,如果每条AI生成的内容都要打标、溯源,那对它的内容生态冲击不小。但问题在于,当几乎所有人都选择遵守规则的时候,那家不遵守的,就成了最大的风险敞口

AI行业的成人礼

欧盟委员会副主席亨娜·维尔库宁说得挺实在:AI是变革性技术,能创造巨大价值,也催生了许多新风险。这套规则既为行业创新提供稳定的法律依据,也有效维护公众利益。

过去两年,AI一路狂飙。模型越做越大,能力越卷越强。但技术跑得太快,规则跟不上,最后受伤的一定是普通人。深度伪造已经导致了诈骗、造谣、操纵选举等一系列现实问题。这套法案的落地,意味着AI行业正式告别”裸奔”时代,进入有规则、有边界、有责任的成人期

一个有意思的细节:新规给已经投放到市场的系统留了宽限期——今年12月2日前完成合规就行。这不是妥协,这是务实。一刀切会扼杀创新,但什么都不管等于纵容作恶。欧盟在这之间的平衡,值得所有国家参考。

说人话总结:以后AI不能装人了。好消息。