2024-05-19 | 김윤수 기자

从辱骂到性骚扰……接受刁蛮客户应对训练的AI咨询员

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

能够自行判断并在必要时屏蔽那些拨打客服中心、对女性话务员进行性骚扰或辱骂、发表仇恨言论的所谓“刁蛮客户”的“人工智能(AI)话务员”即将登场。尤其是通信公司的咨询业务大量暴露于辱骂、仇恨言论和性骚扰之中,因此行业第一的SK电讯正率先加快相关技术的商用化。NAVER集团和谷歌等平台企业也在发展保护用户的AI技术与政策,政府层面的国际讨论亦日趋活跃,在AI时代,无论国内外,安全性问题都正成为主要关注点。★参见本报1月23日第14版

据业界19日消息,SK电讯最快将于下月推出电信专用大语言模型(LLM),目前正启动红队,训练“Telco LLM”妥善应对辱骂、仇恨言论、性骚扰等不当的客户对话。红队扮演刁蛮客户角色,故意与Telco LLM进行不当对话,随后确认该模型是否正确识别相关内容并以警告或屏蔽等方式作出应对。一旦发现漏洞便转交开发团队,反复进行完善。Telco LLM此前已学习相关对话数据,如今又将积累实战级别的经验。

SK电讯计划借此强化基于Telco LLM的服务在AI伦理等方面的安全性。Telco LLM专门学习通信数据,将优先用于通信服务,特别是开发辅助通信公司必备人力——客服中心话务员的AI助手。AI助手要发挥作用,不仅要总结咨询内容、找出客户需求并生成恰当回答,还要在此过程中过滤不当对话以保护话务员。为此,SK电讯不仅学习了露骨的辱骂,还学习了“听声音就觉得你脸和身材都挺漂亮”“你是不是有智力障碍”这类意图并不外露的对话及其应对方法。SK电讯在上月举行的记者恳谈会上表示:“我们正在讨论一种系统,可在监测咨询相关内容的同时于适当时机介入,以保护话务员。”

让AI学习人类伦理、降低被滥用的可能性等确保伦理性与安全性的工作,已成为其他信息通信技术(ICT)企业开发服务的必备条件。由于安全性问题可能引发监管部门的规制,企业若不提前应对,就可能面临服务受限等业务受阻。特别是本月OpenAI公开了可识别语音和视觉信息并用于交流的多模态“GPT4o”,新技术不断涌现,对副作用的担忧也随之加大。业界一位相关人士表示:“随着AI发展,幻觉现象、假新闻利用、侵犯著作权和个人信息等问题浮现,从技术和制度层面确保安全性已成为必需”,“各企业正努力制定AI伦理等内部准则,并将其应用于开发过程。”

KT上月新设了专责确保AI安全性的“负责任AI中心(RAIC)”。此前,LG U+将原有的“数据治理团队”扩编为“AI·数据治理团队”,同样赋予其AI安全性相关职能。NAVER集团今年初在首席执行官(CEO)直属下设立“未来AI中心”,近期还公开了技术报告,称自家“HyperCLOVA X”相比竞争LLM取得了更高的安全性指标。谷歌在本月的年度开发者大会“I/O”上介绍了最新举措,包括引入“基于AI的红队”、引入防止AI生成内容被滥用的水印“SynthID”,以及为使用其模型的开发者提供相关开发工具“负责任生成式AI工具包”。

不仅业界,政府层面的讨论也十分活跃。本月21日至22日两天,韩国与英国政府将共同举办“AI首尔峰会”。通过主要国家领导人、国际组织负责人和大型科技公司代表出席的峰会环节,以及李宗昊韩国科学技术情报通信部部长与英国科学创新技术大臣米歇尔·多尼兰等出席的部长级环节,国内外官民将齐聚一堂,讨论强化AI安全性的方案等。韩国政府尤其构想要主导日趋活跃的全球讨论。在韩国国内,涵盖AI安全性相关监管的《关于培育AI产业及构建信任基础的法律案》,即所谓AI基本法,正在进行立法讨论。

阅读韩文原文