在韩国国内,根据律师法,原则上禁止提供收费的法律AI聊天机器人服务(此处的讨论不包括介绍、居间、引诱法律案件等部分)。
被禁止的法律AI聊天机器人服务并不包括单纯的自动化服务(例如存在一定的法律格式,其中应填写的内容由用户自行撰写,或将用户撰写的内容机械性区分后按该格式填入的服务等)。此外,法律AI聊天机器人服务中,解释某一法理或事项并查找处理类似案例的判例的服务,可以认为不属于律师法所禁止的法律AI聊天机器人服务。因为这并非律师法所禁止的非律师处理有关法律案件的法律事务。
律师法第109条禁止非律师以营利为目的处理有关法律案件的鉴定、代理、仲裁、和解、请托、法律咨询或法律关系文书撰写等法律事务。根据判例法理,法律事务是指“使法律上的效果发生、变更、消灭,或对事项予以保全、明确化的处理”。因此,如果法律AI聊天机器人就用户的具体案件或争点直接提出今后所需的法律措施或应对方案,这就超越了单纯的信息提供,成为针对具体法律案件履行法律事务,在现行法下不被允许。
因此,前述自动化服务属于提供机械性服务,不能视为处理法律事务;而查找判例只是提示被判断为最符合用户所输入事项的判例,同样不能视为处理法律事务,故可以被允许。
有观点认为,法律AI聊天机器人服务与其基础的大语言模型(LLM)一样,AI只是针对用户的提问,将学习到的数据中按概率被判断为最恰当或最相符的数据加以组合、生成,因此把提供法律AI聊天机器人服务视为处理法律事务是一种误解,故应向普通国民开放。然而这种逻辑会导致不当结果:自动驾驶AI也以类似方式运作,按此逻辑将得出其运作并非“驾驶”这一奇怪结论(并且按此逻辑,非律师经过类似的概率性论证提供法律咨询等时也应被允许)。但禁止法律AI聊天机器人的收费服务,是因为无论过程如何,该成果的提供对用户而言实际起到了如法律咨询或法律顾问那样的实质性法律判断与协助作用。
或许有人从根本上质疑,律师法为何禁止非律师处理法律事务。这是因为法律事务对个人等的权利义务或财产等重要事项产生直接而重大的影响,因此只让能够担保专业性、伦理性、责任性的人从事相关业务,以保护这些权利义务。这一原则不仅在韩国,在美国、欧洲等大多数国家虽在细节上有所差异,但作为司法制度的根基被共同维持。这与医疗行为限于医师、药品销售行为限于药师等其他资格制度的宗旨也是相通的。
那么,在此之外或许还有这样的疑问。据报道,某些法律AI聊天机器人以优异成绩通过了律师考试,既然法律AI聊天机器人的性能或结果有保障,即便是非律师也应被允许从事法律事务吧?然而这也不能简单看待。
首先,律师法要求律师除法律知识外还须具备高度伦理性(还负有公益活动、伦理研修等各种义务),并负有保密义务。法律AI聊天机器人是否符合与律师同等水平的伦理性等,令人存疑。而且提供、运营法律AI聊天机器人服务者是营利企业,这一点更是如此(判例一贯否认律师或法务法人等律所的商人性)。
此外,如果允许法律AI聊天机器人,可能会引发这样的质疑:是否在歧视人类而仅以结果更优待人工智能(例如设想一个未通过律师考试,但在登记业务方面比律师有更多实务经验、在相关登记考试领域取得不亚于律师分数的人。然而此人因没有律师资格而不能从事登记业务。历经长久岁月设立并运行资格制度,是因为存在社会上必要的理由)。而且这在宪法上也可能因歧视非律师的自然人与同为非律师但运营法律AI聊天机器人的个人或企业,而违反平等原则。
另一方面,如果事实上毫无限制地允许向普通国民收费提供法律AI聊天机器人服务,最终极有可能被拥有巨大资本实力和技术实力的少数企业垄断(实际上请看聊天机器人服务被几家巨型企业左右的情形),国内市场还可能被海外企业蚕食。
另外在效果上也不能说无条件更优。例如法律纠纷中最重要的判断之一是事实认定问题,而法律AI聊天机器人无法进行事实认定,多是以用户输入的事实关系为前提适用法理的方式被使用;法律AI聊天机器人不会经历指出并修正诸如用户所认知的事实关系是否正确、有哪些与之相符的资料、其中某些资料不能视为与之相符等问题的过程。也就是说,法律AI聊天机器人很难充分经过积极验证或修正用户输入内容中固有错误的程序。然而作为非律师的用户会对法律AI聊天机器人提供的成果深信不疑并据此行动(据说最近委托人拿着虽非法律AI聊天机器人但由AI聊天机器人给出的结果前来,要求照此办理,或在律师意见不同时不信律师反而追问质疑的情况也很多。但大多数情况是错误的,且尽管有律师的意见仍无法被说服的情况也很多)。
而决定性的一点是,法律AI聊天机器人或提供服务的企业在结果出错时,不会像律师那样承担责任(请查看提供AI聊天机器人服务的平台的使用条款等,大多都写明不对AI聊天机器人提供的结果负责。而且律师使用的法律AI聊天机器人服务条款也写明不对结果值的准确性或适当性负责,最终应由用户——律师——审查、判断后使用)。这与就自动驾驶功能另行收取服务费用的特斯拉,在使用自动驾驶功能发生事故时将最终驾驶责任转嫁给用户的结构类似。
归根结底,认为法律AI聊天机器人既已通过律师考试、又能以低于律师的费用提供优质法律咨询,故应向普通人开放的主张,乍看似乎有理,但问题并非如此简单。反倒认为这种说法在某些方面是不负责任且危险的主张。是否应向普通人开放法律AI聊天机器人的收费服务,须考虑该业务领域的制度特性、实际产生的影响,以及韩国人工智能技术在全球市场中的位置与前进方向,因而是非常困难、须慎重对待的事项,而不是仅以简单的费用、性能(性能方面也存在争议)逻辑来处理的问题。






