文/纸不语
ChatGPT引发的AI浪潮席卷到了法律行业。
据路透社2025年2月19日报道，美国知名个人伤害律师事务所Morgan & Morgan近期向其1000多名律师发送了一封紧急邮件，警告称人工智能（AI）可能生成虚假的判例信息，若律师在法庭文件中使用这些虚构内容，可能会被解雇。
早前，该律所的两名律师在处理一起针对沃尔玛的诉讼中，被控在法庭文件中使用了AI生成的虚假案例，目前正面临纪律处分。其中一名律师已承认使用了AI生成的虚假信息，并为此道歉。
此外，在2023年，国外还曝光了多起因使用ChatGPT生成虚假内容而引发的法律问题：2月，美国纽约南区联邦法院在“马塔诉阿维安卡公司案”中，制裁了两名律师及其律所，因其提交了ChatGPT虚构的司法意见；5月，科罗拉多州一名律师因引用ChatGPT生成的虚假案件被驳回动议；同月，据英国《律师协会公报》报道，曼彻斯特法院在审理一起民事案件时，发现当事人引用了四个ChatGPT生成的虚假判例来支持其主张。
不可否认，生成式AI技术极大地缩短了律师研究和撰写的时间，促使律所与供应商合作或自研工具。据汤森路透调查显示，在2024年，63%的律师使用过AI，其中12%频繁使用。
但值得注意的是，AI存在“编造事实”的风险，有法律专家提醒，律师在使用AI时必须格外小心。因为AI生成内容基于数据统计模式，而非事实验证。
图源：IT之家
2020年，一起马塔诉阿维安卡公司案（Mata v. Avianca, Inc.）给了AI介入法律行业的可能。
该事件发生于2019年8月27日，原告罗伯特·马塔（Roberto Mata）乘坐阿维安卡航空670航班从萨尔瓦多飞往纽约，途中被金属餐车撞伤，被告阿维安卡公司是航班承运人，与哥伦比亚航空公司同属一家母公司。
2020年7月20日，马塔通过施瓦茨律师在纽约州最高法院提起诉讼。然而，被告母公司因财务困境于2020年5月10日申请破产，导致诉讼因自动停止规则暂停。2022年2月2日，原告继初次诉讼终止后，在同一法院提起第二次诉讼，主张基于《蒙特利尔公约》的人身损害赔偿。
由于被告主张联邦法院管辖权，案件于2月23日移送至纽约南区联邦法院，由法官凯文·卡斯特尔（Judge Kevin Castel）审理。因施瓦茨律师未获纽约南区执业资格，原告代理律师变更为其同事彼得·洛杜卡（Peter LoDuca）。
但彼得·洛杜卡律师仅作为律师出庭，并负责文书的签署和提交，而史蒂文·施瓦茨律师因提出最初诉状，将继续承担案件的实质性法律工作。
由于对联邦法律、《蒙特利尔公约》和破产规则不太熟悉，且无法访问联邦判例数据库，施瓦茨转而使用ChatGPT，将其视为“超级搜索引擎”。他输入检索内容后，ChatGPT生成了看似符合目的的案例引文。尽管他无法找到部分案件，但因ChatGPT“自信地”确认其真实性，并附上案情摘要，最后，施瓦茨未作进一步的核实。
也因此，人工智能幻觉的现象发生了。实际上，ChatGPT生成的是虚假案件，其通过模仿真实案件标题、法院名称和法官姓名制造了极具迷惑性的内容。一旦施瓦茨进入数据库检索，就会发现这些案件根本不存在。
图源：多维看点
就这样，施瓦茨在ChatGPT的帮助下完成了对驳回动议的回应。2023年3月1日，洛杜卡律师向法院提交了施瓦茨律师起草的法律文书。
很快，被告律师发现了这份法律文书的端倪：有5个案例无法检索，还有几个案例带有虚假的法官意见或错误的信息，并向法官提交了回复意见。
被告向法官提交的回复意见简况。图源：上海市法学会
法院调查后发现，原告律师提交的案件虽看似真实，但存在明显缺陷，显然非美国法院所出，使其陷入困境。
随后，法院要求原告律师提交宣誓书及引用案件副本。施瓦茨再次使用ChatGPT准备材料。2024年4月25日，洛杜卡律师提交了相关文件，包含ChatGPT生成的案件摘录，但未附全文。宣誓书对案件来源表述不清，未提及数据库，也未承认使用ChatGPT。
然而，法院仍未能找到这些案件。经调查，原告律师提交的案件摘录虽在形式上看似真实，但存在明显文体和逻辑缺陷，与常见法院摘要不符，显然非美国法院所出，使原告律师陷入尴尬境地。
在2024年5月4日的命令中，主审法官凯文·卡斯特尔称，“法院遭遇前所未有的情况，原告律师的反对意见中存在大量虚假案例引用，提交的6起案例均为伪造。”
此时，施瓦茨律师才意识到ChatGPT生成的内容不可靠。他在2024年5月25日的宣誓书中承认，未意识到ChatGPT是生成工具而非搜索引擎，未怀疑其内容的真实性。
施瓦茨律师在被告和法院质疑后仍坚持虚假内容，其行为超出合理范围，显得不诚实。最终，法院认定其行为具有主观恶意，违反联邦民事诉讼规则第11条，对其及律所处以5000美元罚款，并要求向相关方通报制裁结果。法院同时驳回原告诉请，确认其索赔因超出《蒙特利尔公约》2年时效而不成立。
据了解，律师史蒂文·施瓦茨（Steven Schwartz）自1992年起在纽约州执业，专长于人身伤害和工人赔偿法，但未取得联邦法院执业资格。此次案件也是已知的、首例涉及律师使用生成式人工智能（GAI）撰写法律文书不当行为的案件。
此外，国内还发生了比马塔诉阿维安卡公司案更离谱的案例。
2024年3月，上海市青浦区人民法院西虹桥（进口博览会）人民法庭受理了一起商标侵权案，由此揭示了部分人员利用AI大模型技术进行“虚假”证据收集的真相。
图源：中华人民共和国最高人民法院截图
原告“海上祥云”（化名）作为商标注册人，发现在某搜索引擎中输入“海上祥云面点加盟官方网站”时，搜索结果首位显示的是“上海祥云面点网站-加盟总部-专注餐饮加盟20年”的广告链接。据此，原告认为，被告“祥云面点”通过购买搜索引擎广告并设置与“海上某云”相似的关键词进行推广，涉嫌商标侵权，遂起诉要求被告赔偿经济损失及合理费用。
然而，承办法官赵晖晖发现，“祥云面点”知名度更高，不存在“傍名牌”动机。
经调查，被告否认侵权，且法院向搜索引擎公司发函确认，被告未设置相关关键词。
两个月后，赵晖晖又承办了一起类似的商标侵权案，原告从“海上祥云”变为“四季冒菜”（化名），被告仍是“祥云面点”。
赵晖晖说，“更蹊跷的是，我们比对后发现，这两起案件的原告都委托了同一个律师团队进行法律代理。正值上海法院全面推进数字法院建设，我们通过办案系统的‘数助办案’功能检索后进一步确认，这个律师团队竟然在全国代理了400起类似的案件。”
据搜索引擎公司调查发现，原告律师通过同一IP多次非正常搜索，触发系统故障，导致被告链接误出现在搜索结果首位。这种行为实际上是利用AI大模型技术制造“虚假”证据，误导司法。
最终，原告代理团队确认后申请撤诉，并承诺不再起诉。赵晖晖认为，这种非正常搜索行为可能是为了制造侵权假象，从而批量提起诉讼，获取不正当利益。
肖飒律师团队认为，即使不考虑是否达到“情节严重”的入罪标准，原告及律师的行为已涉嫌“虚假诉讼”。根据两高发布的《关于进一步加强虚假诉讼犯罪惩治工作的意见》第二条，虚假诉讼犯罪是指行为人单独或与他人恶意串通，通过伪造证据、虚假陈述等手段，捏造民事案件基本事实，虚构民事纠纷，向法院提起诉讼，妨害司法秩序或严重侵害他人合法权益的行为。
本案中，律师及原告通过“碰瓷”行为可能获得的利益与涉嫌虚假诉讼罪的刑事风险严重不成比例。该团队认为，这种损人不利己且风险巨大的行为应坚决远离。
自ChatGPT推出以来，其便引发了广泛的讨论与质疑。通过分析海量网络数据，ChatGPT能够模拟人类对话，甚至协助设计宣传材料。然而，其输出内容中常常夹杂着似是而非的信息，令人难以分辨。
据OpenAI官网信息，财通证券曾用ChatGPT撰写医美行业报告，并通过DeepL翻译。报告提到，该工具虽能模仿专业人士语气，但内容真假难辨，除非读者有相关知识。财通证券分析认为，ChatGPT在文字表达和标题拟定上表现不错，但直接生成加翻译的方式仍存在标点错误、术语不当和数据来源不明等问题。
法律人士游云庭在使用中也发现类似问题：“AI答不上时会编造信息。比如，我问自己的职业背景，它却把我错写成刑事律师，还编了一起案件。所以，专业人士使用AI内容时必须严格核查。”
尽管ChatGPT提高了工作效率，但也降低了信息造假的门槛。
上海一位律师表示：“在法律领域，ChatGPT可辅助基础文书撰写和法条检索，但具体案件的法律分析仍需律师的专业判断。目前，国内律师对ChatGPT的使用并不广泛。”
法院在一份判决书中指出：“律师准备法律文件时，通常会参考多种资源，如初级律师和法律数据库。”
游云庭认为，尽管ChatGPT推动了AI发展，但在中国法律领域，AI在合同撰写和案例检索等方面仍不成熟。未来，生成式AI或许能在基础法律服务中发挥作用，如劳动纠纷和房产争议等常见案件，但复杂案件仍需依赖专业律师。
在谈及人工智能当前在法院的应用时，最高人民法院司法改革领导小组办公室负责人、国际合作局副局长何帆介绍，目前，人工智能在司法领域的应用广泛，包括事务性辅助工作，如信息回填、智能编目、法条推送、文书纠错，以及实体性帮助，如类案推送、证据筛查、风险预估。然而，实体性应用仍处于起步阶段，分析疑难案件和预警重大证据瑕疵等功能还需大量基础工作，不能盲目乐观。
[引用]
① 法律行业“AI 幻觉”加剧，美多名律师因引用虚假内容而遭处分.IT之家.2025-02-19.
② 美国律师因引用ChatGPT虚构案例被罚 律师该如何与AI共处？.潮新闻.2023-06-24.
③ 姚立｜生成式人工智能ChatGPT编造法律案例的风险与启示——评2023年美国“马塔诉阿维安卡公司….上海市法学会.2024-12-16.
④ 律师要不要与 AI 保持“安全距离”？从两个离谱案例说起.......肖飒lawyer.2025-02-19.
⑤ 上海青浦区法院对400件商标侵权案件追根溯源，揭开恶意取证真相，打破人工智能“幻觉”，确保司法公正不被技术操纵——
法院，帮AI大模型“反诈”.人民法院报.2024-10-11.
⑥ 法院是否可借助人工智能判案？最高法：可辅助办案，但任何情况下都不能替代法官.红星新闻.2023-03-09.