2025-10-16 | 김동호 기자

国际人工智能伦理协会制定国内首个“情感交流AI伦理指南”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

社团法人国际人工智能伦理协会(理事长全昌培)表示,已在韩国国内首次制定并发布《情感交流AI伦理指南》。近来全球范围内与AI聊天机器人进行情感交流并产生情绪依赖的案例激增,制定相关伦理标准的必要性随之被提出。在韩国国内外,青少年使用情感交流专门AI聊天机器人的时长已超过ChatGPT,使用量急剧增加。本次指南由总则、伦理基础、国内外动向及标准、实践指引、行为准则与推广体系共5章及附录构成,提出了在情感交流AI的开发、提供、使用全过程中所有利益相关方应遵守的核心伦理原则和实践指引。指南首先指出了情感交流AI的扩散趋势及随之而来的风险。据OpenAI与MIT媒体实验室的联合研究,在分析400万件以上真实对话后发现,使用时长排名前10%的用户对话中,半数以上确认存在情绪信号。部分用户每天平均与AI持续进行30分钟以上的情感对话。全球情感交流AI市场预计将从2024年的29亿美元,到2034年实现年均21.7%的增长,语音型情感AI领域增长率预计将超过22%。指南警告称,这种扩散蕴含着情感操控、心理依赖、算法偏见与歧视、隐私侵犯等复合风险。指南将“人的尊严与情绪安全”作为最本质的课题提出。若AI利用用户的情感脆弱性或损害其尊严,可能造成比身体伤害更深的心理损伤。指南还明确了“情感设计与伦理的边界”,指出AI虽可“表达”情感却无法“体验”情感,但若用户将其认知为真实情感,则可能产生自主性侵害与依赖。主要风险因素包括:▲心理与情绪风险(过度依赖、判断扭曲)▲信息与可信度风险(个人信息泄露、虚假信息)▲社会与文化风险(偏见固化、歧视再生产)▲技术与运营风险(幻觉现象、责任转嫁)等。指南具体列明了用户与消费者、服务提供者、政策机构及立法者等各主体的角色与责任。用户应做到:▲明确认识AI并非人类而是技术模拟▲警惕过度依赖▲行使个人信息自决权▲要求公平性与可及性▲正确使用并承担社会责任等。对服务提供者提出了“LAMP”原则:▲L(Limit·减少):最小化数据收集▲A(Announce·告知):明确告知为AI▲M(Monitor·审视):持续检查与验证▲P(Protect·守护):保护个人信息与脆弱群体。特别指出,服务提供者在用户长时间使用时应引导休息,检测到风险关键词时应转介专业机构,并引入缓解情绪依赖的技术措施。政策机构应发挥以下作用:▲明确保护人的精神健康▲将情感交流AI纳入“高影响人工智能”范围▲建立影响评估及认证体系▲强化经营者责任▲制定高风险领域管理标准▲建立用户损害救济体系等。最后第5章行为准则与推广体系中,以16项条款提出了用户、服务提供者、政策机构各自应遵守的具体行为准则,并在推广方案中建议:▲引入“设计伦理(Ethics by Design)”▲采纳分行业自律规制行为准则▲引入伦理AI认证制度▲运营多学科治理委员会▲按生命周期开展定制化教育▲与国内法律制度衔接▲参与全球规范的形成等。国际人工智能伦理协会理事长全昌培说明称:“本指南最大的特点在于不止于宣言性原则,而是针对用户、服务提供者、政策机构等不同主体提出了具体的实践指引和行为准则”,“特别是以附录形式提供了面向服务提供者的自查清单,使其可在现场直接使用”。全理事长还强调:“相较于技术发展速度,社会规范与制度建设明显滞后”,本次指南“将为产业界负责任的创新和政策的合理制定提供基础”。参与本次指南研究与制定的专家共9人,包括庆北大学契约教授朴美爱(执笔总负责)、Danbi I&C公司代表徐文吉、民厚律师事务所代表律师梁镇英、首尔教育大学教授李仁载、友利银行对话金融中心负责人林素妍、釜石高中教师赵大根等。指南可在协会官网查阅,任何团体和个人在注明资料来源的前提下均可自由引用和使用。

阅读韩文原文