SK电讯用于客服中心的人工智能(AI)在上市前正在接受应对脏话、仇恨言论、性骚扰等不当对话的训练。随着近期技术发展,确保AI服务伦理与安全性的努力成为信息通信技术(ICT)业界的热点话题,包括SK电讯在内的企业正在强化定制化应对。
据业界20日消息,SK电讯正在运行红队,训练其正在开发的通信商专用大语言模型(LLM),即所谓“Telco LLM”,使其能够妥当应对客服中心的不当对话。红队扮演故意进行不当对话的“刁难客户”角色,检验该模型能否察觉有问题的言论并适当作出警告或屏蔽等应对。
Telco LLM最快将于下月推出,由于专门学习了通信数据,今后将被SK电讯及国内外其他通信商用于开发定制化服务。SK电讯计划在通信服务中率先将该模型引入通信商必备业务客服中心,开发支持咨询员的AI助手。公司构想是,通过此次红队运行,让AI不仅能总结咨询员与客户的通话内容、把握需求,还能捕捉不当对话以保护咨询员。
对此,SK电讯在上月举行的记者恳谈会上曾表示:“我们正在讨论一套在监控咨询相关内容的同时、由系统在适当时机介入以保护咨询员的系统。”据悉,Telco LLM正据此学习露骨脏话,以及“听声音感觉脸和身材都很漂亮”“你是不是有智力障碍”“有没有男朋友”等意图并未直接显露的不当对话案例。此前公司还曾制定并公开了开发AI时适用的伦理标准。
如此在技术上实现人类水准的伦理与安全性,已成为开发AI的必经过程。因为随着AI发展,其模仿人类仇恨言论、习得偏见,乃至学习并传播错误信息、侵犯个人信息等副作用担忧也在加大。对开发商而言,若不主动应对,将成为可能导致服务受限等业务受阻的监管风险。
业界人士表示:“随着AI发展,幻觉现象、被用于假新闻、侵犯著作权和个人信息等问题凸显,从技术和制度上确保安全性已成为必需”,“各企业正努力制定AI伦理等内部准则,并将其应用于开发过程。”不仅SK电讯,竞争通信商近期也新设或扩大改组了专门应对该问题的治理组织。谷歌、OpenAI、NAVER集团等拥有众多国内外用户的平台企业也已在强化通过技术与治理的应对。






