2025-12-22 | 서경IN

"监管盲区与幻觉现象"的外国法律AI聊天机器人[吴正翼的AI Law洞察]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

韩国国内也有企业以类似OpenAI的ChatGPT或谷歌Gemini的形式提供所谓法律AI聊天机器人服务。例如提供“LBox AI”服务的LBox、提供“Super Lawyer”服务的Law&Company等具有代表性。目前这些企业仅向通过“律师”认证的用户提供AI聊天机器人的付费服务。

根据《律师法》第109条第1款等规定,非律师者收受或约定收受钱财等利益而办理法律咨询等法律事务,将受到刑事处罚(7年以下有期徒刑或5000万韩元以下罚金)。问题在于,前述法律AI聊天机器人服务可被视为包含就解决法律案件所需的实体或程序事项提出法律意见,因而极有可能构成法律事务之一的“法律咨询”。因此,非律师企业若向普通人有偿提供此类服务,可能产生违反律师法的问题。不过,若服务使用者为“律师”,该服务并非独立提出法律意见,而是作为辅助律师业务的工具,因此不被视为提供法律咨询。结果,这些公司无法向普通人提供法律AI聊天机器人服务,只能面向律师提供。

相反,ChatGPT或谷歌Gemini等情况则完全不同。它们的付费版服务提供与韩国国内法律AI聊天机器人服务相近水平的法律咨询结果,却不区分用户即可提供。与国内企业不同,海外企业完全不受制约,实际上在韩国自由提供法律AI聊天机器人服务。结果是只有国内企业严格遵守国内法,而提供相同或类似服务的OpenAI、谷歌等海外企业却相当于在违反国内法。

然而,政府或主管行政机关对此并未采取任何监管或措施。由此,只有国内企业遭到逆向歧视,处于相对不利的监管环境中。

更令人担忧的是,前述ChatGPT或Gemini等并未针对韩国法令或判例进行专门优化,其幻觉现象远高于国内企业的服务。实际使用这些海外法律AI聊天机器人服务时,引用并不存在的判例或提出毫无关联判例的情况不少,法律结论出错的情形也不少。

尽管如此,普通人仍常常把ChatGPT或Gemini给出的结果当作可信内容使用。实际上,也有委托人利用ChatGPT或Gemini,声称这是自己找到的判例,质问律师“为什么有这样的内容却不采纳”,但进入法律审查后错误频出。律师为向委托人解释这为何有误、何处出错而耗尽心力。据说,发生法律纠纷时,为节省律师费用,也有普通人自行付费使用ChatGPT或Gemini,用于诉讼书面材料的撰写等。为省律师费而使用不受法律监管的海外企业聊天机器人服务,反而可能吃亏。甚至连法律从业者也出现未经充分审查便使用AI法律聊天机器人结果而遭受损失的案例。

海外企业的服务脱离法律监管对象,国内用户在向海外企业支付使用费的同时,反而处于更大风险之中。即使聊天机器人提供的结果给出错误法律意见导致损害,依据使用条款也难以向海外企业追究责任。因为大多数情况下都规定该聊天机器人服务不得用于产生法律影响或重大影响的目的。也就是说,实际上容许有偿提供法律服务,却又表明即使结果有误导致损害也不承担责任。即便受害者想采取法律措施,由于海外企业总部在美国,同样会遭遇困难。例如Gemini并非由韩国法人谷歌韩国运营,而是由依据美国特拉华州法律设立、依美国法运营的Google LLC运营。

随着应用AI技术的服务不断出现,海外企业进入韩国市场的速度更快、范围更广。在此情况下,不应因未能对海外企业进行适当监管而逆向歧视国内企业,削弱本国企业的竞争力。应尽快消除国内外企业间的监管失衡,确保最基本的公平性。

阅读韩文原文