案例分析 / 法律动向
违反律师法 | 生成式AI炮制的“虚假判例”被提交至法庭……AI时代法律实务的风险
关于违反律师法的新型伦理风险正在浮现。最近在韩国国内也发生了律师未经核实便在书面材料中引用AI生成的虚假判例并提交的案件。
1. 违反律师法 | 涉案案件概要
一旦违反律师法，律师的职业与生计将面临巨大威胁。
下面介绍最近在一起刑事审判中引发争议的案件。
在该审判中，律师A称为支持被告人的主张，在意见书中引用了5起判决。
然而，法院通过电子系统核查这些判例后发现，它们全部是并不存在的虚假判决。
该律师在审判过程中承认“使用了AI”，审判庭要求其再次确认判例的来源。
此案 属于未经事实核实便直接提交AI生成的虚假法理的案例，引发了欺骗法院的可能性以及律师职务伦理违反的争议。
2. 违反律师法 | 引用AI虚假判例的问题
生成式AI在组织看似合理的语句方面能力出众，但存在将并不存在的判决、学术资料、法理伪装成事实加以生成的问题。
在此案中，律师A将AI生成的判例误认为真实存在的判决而予以提交，此类行为会引发如下问题。
- 将虚假法理作为法院判断依据提出，损害司法程序的准确性与公正性
- 律师未尽事实核实义务，侵害委托人的利益
- 从法院角度而言，审判效率降低，书面审查负担加重
- 在社会层面，导致对AI的信任下降以及法律服务质量下滑
韩国国内确认的类似案例
这并非仅限于律师的问题。
在警察等侦查机关，也曾出现收到利用AI作出的不予移送决定书的告诉人指出其中错误，从而引发问题的情况。
- 在一起虐待儿童告诉案件中，经确认警察送交的不予移送决定书引用了并不存在的最高法院、地方法院判例
- 该表述在任何判决文书中均不存在，推测在制作过程中未进行单独核实
- 专家指出，侦查机关在利用AI信息的过程中也可能遗漏了必要的核实程序
这是一个表明不仅在法院审理阶段，在侦查阶段AI信息错误同样可能影响实际案件判断的案例。
海外案例与各国的应对
在海外，针对提交AI虚假判例的案件，已在持续采取严厉制裁。
1) 美国
- 2025年犹他州上诉法院：责令提交虚假判例的律师捐款1,000美元
- 印第安纳联邦法院：对提交虚假资料的律师判处6,000美元罚金
- 外国律师（美国）协会（ABA）：正式提出对AI输出内容的审核属于律师“胜任代理义务”的一部分
- 确认2023～2025年间提交AI虚假资料的案例达95件（截至2025年为58件）
2) 英国
- 针对在行政诉讼中提交5件不存在判例的律师案件，高等法院警告存在“藐视法庭的可能性”
- 若认定藐视法庭罪，可处罚金或最高2年有期徒刑
在英国，无论律师是否使用AI，提交虚假事实本身即构成欺骗法院的观点较为强烈。
3. 违反律师法 | 韩国法律制度上可能存在问题的事项
对于因直接引用AI生成的虚假判例而被查处的律师而言，存在违反以下法规的风险。
1) 律师法第24条
“律师不得作出有损尊严的行为”
2) 律师伦理章程
第5条（维持尊严） ：“律师应维持尊严，不应作出有损名誉的行为”
第36条（审判程序） ：“禁止故意就虚假事实进行主张或提交虚假证据”
尽管此次案件并非故意提交，但未尽基本事实核实义务这一点仍可能引发律师职务伦理违反的争议。
案件的意义与法律界今后的课题
此次案件在AI应用迅速普及的背景下，成为展现法律界所面临新型风险的一个端倪。
尤其留下了如下意义。
- AI提供的判例其可信度并非绝对，所有信息都需要律师作最终核实
- 判决文书不公开、下级审判例检索受限等结构性因素也不容忽视，因此今后需要改进制度
- 因AI反而出现书面审查时间增加等审判效率下降的问题
- 今后有必要在法院、律师协会层面制定AI应用指南
AI也可以成为提升法律服务效率的工具，但若法律专家不加批判地使用，反而会成为可能损害司法可信度与委托人权利的风险因素。
大倫律師事務所正通过引入AI与平台、加速法律科技发展，来提升客户便利性并引领法律服务的革新。
我们深刻认识到技术进步所带来的事实核实与个人信息保护的重大责任，并将始终如一的伦理意识作为服务的根基。
我们承诺，通过大倫兼顾革新与信赖的精细化一站式法律服务，最安全地守护客户的权利。
相关信息
查看与本案例相关的法律信息。
了解更多法律信息大伦的核心优势
律师
法律咨询预约
所有咨询均由专业律师审核后
以专业方式进行，因此采取预约制。
电话咨询
1800-7905
全年365天24小时受理咨询
在线咨询
为委托人提供
量身定制的法律服务。
聊天咨询
KakaoTalk频道
大伦律师事务所 律师
上一篇
人工智能基本法 | 明年1月施行在即及企业准备事项
下一篇
证据收集 | 法院：“违反法定程序，所有证据均无效”……受贿、醉驾均无法处罚
查看列表
