AI编假证人,律师被罚5000美元:幻觉的账,算到人头上

j
jxgzhc
1天前 2 分钟阅读 1 阅读

AI与法律

这大概是 AI 第一次,因为“说谎”,直接让一个真人掏了罚款。

美国新墨西哥州,一名辩护律师在给客户上诉时,往法庭文件里塞进一份“证人证词”。

证人,是假的;警察证词,也是假的。

不是他故意造假,是他信了 AI。

律师叫阿隆斯,接这个谋杀案的上诉时,用 ChatGPT 整理了庭审记录,然后把 AI 吐出来的内容,原封不动写进了答辩状。他没想到,AI 会编。

法官判了:藐视法庭,罚款 5000 美元,移交律师纪律委员会调查。

更扎心的是评语——法官说他“缺乏悔意,对客户缺乏关心”。阿隆斯喊冤:这是“诚实的错误”。

别急着笑他。这两年,美国各州法院对“用 AI 又不核对”的律师,处罚一直在升级:早期还是警告、训诫,现在开始真金白银地罚了。

信号很明确:你信 AI 可以,签下你名字那一秒,责任就是你的。

AI 错了,算谁的?这个案子给出了一个朴素的答案——算在签字的人头上。

工具会犯错不可怕,可怕的是,有人把“专业判断”整个外包给了工具,连最后一道核实的工序都省了。

阿隆斯有句话说到了点上:“这是所有依赖这种强大但不稳定技术的人,该学到的一课。”

5000 美元不算多。但“法院敢罚执业律师”这件事本身,比罚款值钱多了。

AI 刚出来时,我们怕它太聪明;现在才发现,更该警惕的,是有些人懒得检查。