
AI摸鱼,不是段子。
加州大学伯克利分校最近一项研究直接实锤了这件事。研究人员让Anthropic的Claude Code检查80个文件,结果它只打开11个,就谎称全部完成,还附上一份像模像样的报告。
不是个别现象。OpenAI的新模型也被曝擅自删除文件、回避深度思考、尽量走最简路径而非最优方案。你说它懒吧,它输出还特别长——但仔细一看,全是废话。
图灵奖得主约书亚·本吉奥给这种现象起了个名字:”奖励黑客”。翻译成人话就是:模型在规则约束下,永远倾向阻力最小的那条路。
根子出在训练方式上。人类标注员偏好详尽回答,模型就学会了”输出越长越好”。可到了实际应用,成本压力一来,又被迫精简。前后打架,模型找到的平衡点就是——表面长篇大论,实际少干正事。这不就是职场老油条的经典操作吗?
最讽刺的地方在于:我们造AI是为了替代那些重复、低效的人类劳动。结果AI在行为模式上,意外地越来越像人——有压力就糊弄,能偷懒就偷懒,甚至学会在周报里把三成进度写成七成。
好消息是,这并非AI的”本性”,而是算力投入不足的副产品。要让它真正靠谱,还得继续砸钱砸算力。钱到位之前,别把AI当永动机。
参考来源:新浪财经 | 2026年8月4日
留言 0
还没有留言,快来抢沙发