美国一律师因使用 ChatGPT 编造证词被罚款 5000 美元

美国新墨西哥州最高法院近日对辩护律师斯蒂芬·阿伦斯处以 5000 美元罚款，因其在上诉文书中提交了由 ChatGPT 生成的虚构证人和编造的警察证词。法院认定阿伦斯未核实文书准确性，构成藐视法庭，并将他移交律师纪律委员会调查。

阿伦斯承认借助 AI 起草文书，但未意识到 ChatGPT 会产生“幻觉”并编造事实。法官指出，其文书中的虚假证词来自“完全虚构的证人”，且阿伦斯缺乏悔意和对委托人的关心。

此类事件正不断增加。此前已有数十名律师因未核查 AI 生成内容受罚，包括编造判例引用和错误引用法律。阿伦斯在刑事上诉中使用虚构证人证词，情节更为严重。

法官 C·香农·培根在听证会上质问，律师依赖 AI 幻觉的问题每天都是头条新闻，专业人士应从中吸取教训。