随着人工智能(AI)生成的虚假判例或伪造、变造证据被提交至法院的案例接连出现,司法机关开始着手制定应对方案。
法院行政处30日公开了“AI利用虚假主张·证据提交应对特别工作组(TF)”的活动结果。该工作组自去年11月运行至今年3月,由法院行政处国际交流推进团团长张志容担任组长,包括法官8人和律师2人,共10人组成。
工作组提出了现行制度下法院可采取的措施。即当事人或代理人利用AI引用虚假法令等,导致产生不必要的诉讼费用或使审判迟延时,法院可令其承担由此产生的诉讼费用的全部或部分。对于记载虚假法令、判例等的书面材料,可在辩论中限制相关陈述,并在判决书中指明相关内容为虚假。方案还包括,律师未对AI生成的虚假法令、判例等进行充分核验即提交时,可请求大韩律师协会予以惩戒。这些措施是否实际执行,交由各审判部裁量。
工作组还提出了制度改善方案。提出了民事诉讼规则修正案,要求使用AI的当事人等将使用事实告知法院和对方,并自行确认诉讼文件中记载的法令等主要内容是否准确。此外,还将引用虚假法令等时可处以罚款的诉讼法修订方案列为研究课题。
电算系统改编的必要性也被提出。建议开发可自动提示法院提交文件中所引用法令、判例是否实际存在,以及文件记载内容相似度的功能。工作组提出扩大判决公开,以便核实AI给出的判决是否实际存在,法院行政处已于上月20日在司法公开门户网站新增“虚假案件编号核查”功能。
法院行政处相关人士表示,“此次工作组活动的意义在于,整理了现阶段可以研究的应对方案,并为今后主动应对AI技术与实务环境变化奠定了基础”,“司法机关将持续密切关注AI技术的发展趋势、对审判的影响以及国民认知变化,及时制定追加方案,在急剧变化的环境中也忠实履行司法机关固有的审判职能”。






