律师用ChatGPT起草上诉文书，虚构警察证词被罚款5000美元

据路透社报道，美国新墨西哥州最高法院近日就辩护律师斯蒂芬·阿伦斯一案作出裁定。阿伦斯在为一名被判谋杀罪的当事人提出上诉时，向法院提交的文书中出现了虚构证人和编造的警察证词。经调查确认，这些内容均由OpenAI的ChatGPT生成，而非来自真实庭审记录或证人陈述。

法院认定，阿伦斯因未核实所提交文书的准确性，构成藐视法庭罪。法官们对其处以5000美元罚款，折合人民币约33640元，并决定将其移交律师纪律委员会进行进一步调查。陪审团在评议中还指出，阿伦斯在整个过程中表现出对委托人缺乏关心，且态度上缺乏应有的悔意。

阿伦斯在听证会上解释称，自己去年接手这起上诉案时，将电脑生成的庭审文字记录及其他案件材料输入ChatGPT，期望获得一份准确可靠的摘要。他表示，自己当时并未充分意识到AI存在产生幻觉、凭空编造内容的风险，也没有预料到这一问题会严重到如此程度。他事后表示懊悔，并呼吁所有依赖AI技术的专业人士引以为戒。

法官C·香农·培根在听证会上对阿伦斯的无知表示难以置信，直接质问道：律师依赖AI幻觉的问题每天都是头条新闻，他是否根本没有关注过外界动态。这一质问折射出司法界对律师群体在使用AI工具时缺乏基本风险意识的普遍担忧。

阿伦斯并非个例。近年来，越来越多的律师因未充分核查AI生成的诉讼文书便直接提交法院，受到州或联邦法官的处分。此前已有数十名律师因文书中出现编造判例引用、错误引用法律等AI错误而受罚。相比之下，阿伦斯在刑事上诉文书中使用虚构证人证词，情节更为严重，也再次警示法律从业者在使用生成式AI时必须承担起严格的核查责任。

要点

• 新墨西哥州最高法院认定律师阿伦斯藐视法庭，因其提交含有ChatGPT编造虚假证词的上诉文书，被罚款5000美元并移交纪律委员会。
• 阿伦斯将庭审记录输入ChatGPT以求摘要，却未意识到AI幻觉的严重性，导致完全虚构的证人证词出现在刑事上诉文书中。
• 法官对阿伦斯缺乏AI风险意识深感震惊，指出律师依赖AI幻觉的问题早已是每日头条，专业人士理应知晓相关风险。
• 此案是近年律师因滥用AI工具受罚案例中情节较重的一起，此前已有数十名律师因编造判例引用等AI错误受到处分。
• 生成式AI在法律文书领域的应用须配以严格的人工核查机制，专业人士不能以无心之失为由规避对委托人和法庭的责任。