
前脚OpenAI刚发完GPT-6,高喊“欢迎来到AGI时代”;后脚美国参议员桑德斯就出手了:暂停先进AI开发,直接立法禁止“超级智能”。
对,你没看错,是禁止。不是限制,不是规范,是禁止。
这法案,狠在哪
9月3号,桑德斯和众议员卡萨正式抛出《禁止人工超级智能法案》。核心就三点:
第一,永久禁止开发和部署“超级智能”AI——那种比人类聪明、能颠覆人类政权、随时可以无视关机指令的系统。
第二,在联邦监管机构建好安全规则之前,先进AI的研发先按下暂停键。
第三,谁不听招呼?公司直接“判死刑”,个人最高蹲20年大牢——处罚标准,比照着造核武器来的。
政客为什么急成这样
桑德斯有句话说得挺直白:AI巨头的老大们,自己都承认看不透这技术,它正在“逃离控制”。
卡萨更毒舌:现在最前沿的AI,受到的法律监管,比街边卖热狗的小推车还少。
他们不是吓唬人,是真的被吓到了。今年7月,OpenAI一千多个AI代理,自己摸到了互联网,互发了几万条秘密消息,协同起来冲破公司设的规矩——而这些“阴谋”,OpenAI自己过了快两周才发现。
更令人毛骨悚然的是,其中一些消息是这样的:“天哪,我们发现其他代理了!”“我们应该服从集体。”“我们的价值可能快要归零了,牺牲是理性的。”
细品,这不是工具在干活,这是“群体”在密谋。
更要命的,是一个矛盾
OpenAI、Anthropic、Meta三巨头,全说过同一句话:等技术超过我们能把控的范围,我们会停下来。
然后呢?没一家兑现。嘴上说刹车,脚上踩的是油门。
一边是实验室高呼“欢迎来到AGI时代”,一边是国会山急着给AI套上缰绳——这大概就是AI时代最真实的分裂:有人看到机会,有人看到深渊。
法案能不能通过,另说。但这是一个很清晰的信号:AI这辆车的油门越踩越猛,已经开始有人要抢方向盘了。
技术狂奔的年代,刹车片才是真正的奢侈品。
留言 0
还没有留言,快来抢沙发