2025-09-25 | 김성태 기자

视频生成AI滥用也要防…Kakao集团升级AI护栏模型

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

Kakao集团(035720)将开发可验证图像、视频等多模态生成式人工智能(AI)安全性与可信度的“AI护栏模型”。

AI安全与质量绩效负责人李相浩24日在京畿道龙仁市Kakao集团 AI园区举行的技术大会“if Kakao集团”上表示,“将开发与技术发展速度相匹配、更为安全的安全带”,并公布上述计划。

Kakao集团今年5月开发了以文本为中心的“AI护栏模型”并以开源形式公开,共3款:检测用户发言或AI回答中仇恨、骚扰、性内容等有害性的“Kanana Safeguard”;从个人信息、知识产权等法律层面检测问题的“Kanana Safeguard-Siren”;检测试图滥用AI服务的用户攻击的“Kanana Safeguard-Prompt”。Kanana Safeguard利用体现韩语与韩国文化的自建数据集开发而成。

Kakao集团正将Safeguard搭载于已推出或即将推出的AI服务,并在筹备应用于关联公司的AI服务。

Kakao集团还在加强与国内外机构、团体的外部合作,作为韩国企业首家加入“AI Alliance”。通过与联合国开发计划署(UNDP)、联合国儿童基金会(UNICEF)、联合国全球契约(UNGC)等联合国相关机构的交流,持续为国际标准而努力。通过与韩国专门负责AI安全性的研究机构AI安全研究所合作,也在推进安全性评估、数据构建与技术开发相关的共同研究。

Kakao集团去年10月制定了AI风险管理体系“Kakao集团 AI安全倡议”。该体系以“负责任AI指南”这一伦理原则为基础运作,是对2018年作为韩国企业首家制定的算法伦理宪章的修订,目的在于对AI模型全生命周期中可能出现的风险进行先发应对。

阅读韩文原文