2024-01-03 | 윤지영 기자

[独家]“开发安全AI”NAVER集团设立CEO直属研究中心

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

生成式人工智能(AI)技术以超乎想象的速度发展,期待与担忧交织,在此背景下NAVER集团在韩国信息技术(IT)业界率先设立了专门负责AI安全性研究的组织。该研究组织由首席执行官(CEO)、NAVER集团代表崔秀妍直接管辖,被解读为意在同步推进AI技术高端化与安全性强化,最大限度降低风险并推动符合伦理的AI开发。

据信息技术(IT)业界3日消息,NAVER集团于1日进行组织调整,新设全球AI研究与政策组织“未来AI中心(Future AI Center)”。未来AI中心将研究AI安全性,以推动负责任的AI开发。

NAVER集团之所以设立AI安全性研究中心,是因为全球要求提高AI技术可信度的呼声日益高涨。特别是在以欧洲为起点的AI技术监管动向迅速扩散的情况下,安全的AI开发重要性更加突出。有分析认为,若不提升AI的安全性与可信度,将难以在全球市场获得竞争力。

对此,NAVER集团在为基于超大规模AI“HyperCLOVA X”的CLOVA X(对话式AI服务)追加多模态功能等推进技术高端化的同时,也展开了为安全使用AI的多种活动。2021年发布了公司全体成员在AI开发与使用过程中须遵守的“AI伦理准则”,并运营AI伦理咨询流程(CHEC)。崔代表判断,随着国际社会强化AI安全性的讨论急速推进,不能落后于这一潮流。

未来AI中心规模约100人,由负责制定与统管NAVER集团的AI战略的NAVER Cloud Corp. AI创新中心负责人河正宇担任掌门人。河中心长表示:“今年将成为生成式AI在所有产业中创造革新的元年,安全且负责任的AI的重要性也将提升”,并展望称“将通过未来AI中心积极贡献,使韩国在全球AI安全讨论中也能发挥领导力”。

未来AI中心将处理的首批课题选定为“为确保超连接交换(HCX)安全性而提出研究主题”和“Team Naver的AI技术及服务安全性管理体系审视”。此外,未来AI中心还将研究提升AI安全性的各种技术,并制定NAVER集团的AI伦理政策。目标是通过HyperCLOVA X的安全服务开发与风险管理,构建安全性得到强化的超大规模AI生态。除此之外,还计划与韩国国内外研究机构合作,推动AI安全性技术研究的高端化。此前,NAVER集团于2021年与德国蒂宾根大学签署了“安全可信AI研究开发业务协议”,并与加拿大多伦多大学开展AI共同研究。NAVER集团相关人士表示:“为了在全球市场正式推进AI业务,已将‘AI安全性’设定为今年的主要议题。”

业界预计,以NAVER集团运营未来AI中心为契机,以开发生成式AI的韩国国内IT企业为中心,AI安全性研究将比现在进一步扩大。为实现安全AI的国际协作已在积极展开。韩国政府将于今年5月与英国政府共同在韩国举办“AI安全峰会”,并积极推动构建确保AI可信度的全球治理体系。

阅读韩文原文