2024-03-21 | 윤지영 기자

“探索安全AI开发” NAVER集团以主要合作方参与“AI红队挑战赛”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

NAVER集团21日表示,将作为代表合作伙伴参与由韩国科学技术情报通信部主办、韩国信息通信技术协会(TTA)与超大规模AI推进协议会承办的“生成式AI红队挑战赛(Gen AI Korea 2024)”。

活动将于下月11日至12日在首尔江南区COEX举行,旨在探索增强近期快速发展的超大规模语言模型(LLM)安全性、可信度与安全防护的方法。

共同代表合作伙伴、AI训练数据平台初创企业“Selectstar”与NAVER集团将就AI安全性技术进行交流与相关讨论。

4月11日将举办“生成式AI红队挑战赛”,参赛者对实际提供服务的LLM进行模拟提示攻击,以验证模型的安全性。不论专业,凡对AI伦理或安全感兴趣的民众均可通过事前申请参与,优秀参赛者将获得总额1700万韩元规模的奖金。

12日将以安全的AI开发为主题举办会议,国内外AI技术领袖将进行演讲与意见交流。北美AI初创企业“Cohere”联合创始人艾丹·戈麦斯、由海外科技巨头共同出资设立的AI伦理与安全论坛“前沿模型论坛”代表理事克里斯·梅塞罗尔、非营利机构“AI安全中心”总负责人丹·亨德里克斯、图像生成人工智能开发商“Stability AI”首席执行官埃马德·莫斯塔克等将作为会议演讲者出席。

NAVER集团将积极参与LLM安全性验证与强化、以及面向安全AI开发的专家讨论。为使生成式AI红队挑战赛参赛者能够直接验证和试验国内最高水平LLM的安全性,公司将提供自主研发的超大规模AI“HyperCLOVA X”。NAVER集团计划以本次大赛积累的验证数据为基础,进一步强化HyperCLOVA X的安全性。

NAVER集团未来AI中心负责人河正宇也将作为会议演讲者,介绍NAVER集团为安全AI开发所做的努力。河中心长表示:“我们将验证并强化HyperCLOVA X的安全性,并分享NAVER集团在AI安全性技术方面的能力与经验。”

阅读韩文原文