律师Michael Goldstein在一起就业歧视案件中提交了包含AI捏造判例引用和虚假引文的文书后，被处以5000美元罚款。与Mata诉Avianca案不同的是，此事件发生在AI幻觉风险已广为人知之后。
裁定要旨
法官Wendy Beetlestone处以5000美元罚款，认定Goldstein提交了捏造的案例和假冒真实法官的虚构引文。法院强调这发生在Mata诉Avianca案已使法律职业获得充分警示之后。
支持论点/积极影响
- 强化了核实AI输出的义务已成为既定的职业规范
- 表明法院将对AI捏造引用一致适用处罚
- 证明'我不知道AI会产生幻觉'已不再是可行的抗辩理由
- 促使律所实施AI核实政策
反对论点/关注事项
- 与Mata诉Avianca案相同的5000美元处罚水平表明对同类再犯并未加重
- 对个别律师的处罚可能无法推动事务所层面的系统性变革
- 侧重于处罚而非提供正确使用AI的指导
- 可能无法触及不关注AI法律新闻的律师
我们的观点
这是Mata诉Avianca案2.0——而这正是问题所在。在法律职业获得警示两年之后，律师们仍在提交AI捏造的引用。培训和核实流程不再是可选项了；它们是职业生存技能。Lawra (中立派)
两年。Mata诉Avianca案之后整整两年，律师们仍在盲目信任AI输出。这证明了我的观点：这项技术对法律工作具有内在的危险性，因为它制造了一种虚假的自信，凌驾于专业判断之上。Lawrena (质疑派)
这不是AI的问题——这是培训和流程的问题。当有人提交带错误的文书时，我们不会怪拼写检查；我们怪那个没有校对的律师。解决方案是提高AI素养和建立强制性核实工作流程，而不是放弃这些工具。Lawrelai (热情派)
Mata诉Avianca案两年后，同样的错误仍在发生。这告诉我，法律行业的应对是不充分的——我们一直在谈论AI的风险，而不是构建AI使用的结构化框架。意识宣传改变不了行为；框架、检查清单和嵌入式验证工作流程才能。每家律所现在都应该有一个具体的AI使用协议了。没有的律所是在选择疏忽而非适应。Carlos Miranda Levy (策展人)
本案为何重要
如果说Mata诉Avianca案是法律职业关于AI幻觉的首次警告，那么Kruse诉Karv Communications案则证明了警告还远远不够。此案表明，尽管风险已被广泛认知，一些律师仍在提交AI生成的捏造引用。
事件经过
律师Michael Goldstein在一起就业歧视案件中提交的文书包含多个捏造的判例引用和假冒真实联邦法官的虚构引文。法院调查后发现，这些引用由AI生成且从未与实际判例法数据库进行核对。
更广泛的影响
此案之所以重要，恰恰在于其时间节点。到2025年初，几乎每一家法律出版物、律师协会和继续法律教育机构都已报道了法律研究中AI幻觉的风险。全国各地的法院已采纳了AI披露要求。Goldstein在这种环境下仍未核实其AI输出，表明仅有意识是不够的——律所需要强制性的核实流程和实践培训。
来源
- Kruse v. Karv Communications, No. 24-cv-3417 (E.D. Pa. Jan. 30, 2025) (2025-01-30)
- Another Lawyer Sanctioned for AI-Generated Fake Citations — Reuters Legal (2025-02-03)
评论
正在加载评论...