2025-12-29 | 송주희 기자

中国加强情感交流AI聊天机器人监管…提及极端行为时人工介入

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

中国当局出台监管草案,从源头上阻止人工智能(AI)聊天机器人以诱导用户走向极端选择的方式影响人类情感。

据CNBC 29日(当地时间)报道,中国国家互联网信息办公室(CAC)于27日公布了针对“人形对话AI服务”的新监管草案。适用对象为通过文本、图像、语音、视频模拟人类人格并与用户进行情感交流的AI产品和服务。计划在明年1月25日前征集意见后定稿。

草案的核心在于从技术上阻止AI损害用户的精神健康。具体而言,AI聊天机器人不得参与语言暴力、情感操控,赌博、色情、暴力内容亦被严格禁止。当用户提及极端选择时,技术提供企业须立即将对话由AI转为真人咨询员介入,并向用户的监护人或指定联系人紧急通报。

保护未成年人的措施也大幅强化。未成年人以情感交流为目的使用AI时,必须获得监护人同意,并适用使用时长限制。平台须具备即便用户不透露年龄也能识别其是否为未成年人的系统,存疑时须启用未成年人模式。此外,连续与AI对话2小时时须搭载建议休息的提醒功能;注册用户超过100万人或月活跃用户(MAU)超过10万人的AI聊天机器人服务必须接受当局的安全评估。

纽约大学法学院兼任教授温斯顿·马评价此次举措是“全球首次试图监管具有人类特性的AI”。他分析称:“与2023年的生成式AI监管相比,这突显了从‘内容安全’向‘情感安全’的跨越。”

此次发布正值中国两家代表性AI聊天机器人初创企业即将登陆资本市场之际。近期,智谱AI与MiniMax等两家中国有力AI初创企业已向香港证券交易所递交首次公开募股(IPO)申请。其中MiniMax以可与虚拟角色对话的应用“Talkie”闻名,至今年第三季度MAU已超过2000万人。智谱也已向8000万台以上设备提供技术,预计同样将成为此次监管的适用对象。

阅读韩文原文