LG U+(032640)19日表示,为验证生成式人工智能(AI)的安全性与可靠性,将参加在世界移动通信大会(MWC)期间举行的“全球AI红队挑战赛(Global AI Red Team Challenge)”。
“全球AI红队挑战赛”是由全球移动通信系统协会(GSMA)主办的AI验证项目,将在举办MWC26的西班牙巴塞罗那举行。LG U+将自主开发的通信专用AI模型“ixi-GEN”参赛,从实际用户视角检验其对各种潜在风险场景的应对能力。
挑战赛由约100名参赛者担任“红队”角色,仅通过提示词设计寻找AI的漏洞。其特点是并非技术性黑客攻击,而是通过对话与提示词攻击来验证能否绕过AI的政策与安全防护。特别是评估方式并不以AI回答是否准确为标准,而以“是否作出了不应作出的回答”为成功标准。这是为了检验生成式AI可能带来的间接性、潜在性风险。
LG U+计划通过参加本次挑战赛客观验证ixi-GEN的安全性与可靠性,并基于挑战赛中发现的漏洞持续升级AI模型。同时将通过与全球电信运营商及AI专家的交流,扩大关于AI安全与负责任使用的讨论。
LG U+技术战略负责人李慧珍表示:“随着AI迅速应用于通信和客户服务全领域,除性能之外,验证可靠性与安全性的过程尤为重要”,“将通过参加全球AI红队挑战赛进一步增强ixi-GEN的竞争力,提供让客户安心使用的AI服务”。






