随着青少年使用“人工智能(AI)聊天机器人”的情况增多,有观点指出需要完善相关法律以防范负面影响。事实上,据绿伞儿童基金会对3300名14岁以上青少年进行的调查结果,94.4%的受访者有使用AI聊天机器人的经历,其中75.3%曾将AI聊天机器人的回答付诸实际行动,或认真考虑是否实施。可见AI聊天机器人对青少年的影响相当大。
据21日国会立法调查处的报告,海外关于AI聊天机器人可能对儿童或青少年产生负面影响的警告接连出现,以法律加以规制的案例也在增加。美国联邦国会正通过《用户年龄确认及负责任对话准则法案(GUARD Act)》,将年龄确认、AI聊天机器人告知、禁止与18岁以下未成年人进行性或身体暴力相关对话等规定为经营者义务,并推动对违反者处以罚款。美国加利福尼亚州从今年起施行《人工智能伴侣聊天机器人规制法》,华盛顿州、纽约州、弗吉尼亚州等也在推进相关立法。
欧盟正通过《人工智能法(AI Act)》和《数字服务法(Digital Services Act)》强化保护未成年人的安全设计及风险管理义务。加拿大国会今年6月还提出了《安全社交媒体法案(Safe Social Media Act)》。该法案将聊天机器人明确列为单独的规制对象,核心内容是课以安全设计、建立支援机构对接体系、公开数字安全计划等义务。
全方位规制青少年网络活动的动向也颇为引人注目。澳大利亚通过修订后的《在线安全法(Online Safety Amendment Act 2024)》,自2025年12月起禁止未满16岁者持有社交媒体账号。平台经营者必须采取“合理措施”阻止账号创建,未履行者将被处以罚款。
英国正推进按服务类别实行差别化年龄限制。英国政府今年6月依据《在线安全法(Online Safety Act)》发布了禁止未满16岁者持有和使用社交媒体账号的政策,并计划自2027年起施行。该法案还包含将设计用于模拟与用户发生性关系、角色扮演等的“浪漫伴侣型AI聊天机器人”的使用年龄规定为18岁以上的内容。挪威正以年内为目标推进限制未满16岁者使用社交媒体的法案,法国则计划通过修订《数字经济信任法》限制15岁以下者使用社交媒体。
相比之下,韩国国内与AI相关的法律制度无法规制AI聊天机器人的风险。原因在于,现有AI相关法制以信息通信及个人信息体系为中心确定规范框架,而《人工智能基本法》也是以产业振兴及构建信任基础为目标而设计的。
报告分析称:“目前的规制范式仍停留在事后应对为中心,经营者的预防性责任也不足”,“AI聊天机器人的回答呈现为按用户实时生成的‘封闭式一对一对话’形态,以‘帖文’或‘媒体内容’为前提的现有规范体系难以充分应对”。报告接着指出:“《人工智能基本法》虽然规定了生成式AI结果标示义务及对高影响AI的风险管理义务,但判断标准集中于是否对身体、安全、基本权等产生直接影响,因此具有成瘾性的算法设计等不易被察觉的风险难以被纳入规制对象”,“《个人信息保护法》也将需要法定代理人同意的年龄限定为未满14岁,未能充分涵盖《青少年保护法》所指的未满19岁青少年”。
立法调查处还将法律体系及管理部门的分散指为问题。报告指出:“在AI环境下保护儿童与青少年是涉及个人信息、网络安全、教育、精神健康等多个领域的综合性问题”,“然而现行规范体系分散于各单行法律及科学技术信息通信部、教育部、性别平等家族部、韩国保健福祉部、Personal Information Protection Commission等部门,未能具备统合性的应对体系”。






