2023-10-25 | 김윤수 기자

Naver、Kakao、SKT、KT、LG打造的超大规模AI,将接受可靠性评估

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

NAVER集团、SK电讯、KT、LG等企业开发的超大规模人工智能(AI)模型,其可信度评估体系即将出台。政府计划通过支持企业参与,对因ChatGPT问世而浮现的AI伦理与可信度问题作出先发应对。

韩国科学技术情报通信部25日在首尔江西区LG科学园举行的第四次AI最高级别战略对话上发布了《AI伦理·可信度确保推进计划》,Personal Information Protection Commission与NAVER集团、SK电讯、KT、Kakao集团、LG AI研究院等超大规模AI开发企业出席了会议。

AI最高级别战略对话是政府与民间每半年聚首、讨论强化国家AI竞争力方案的协商机制,本次会议制定了有关AI伦理与可信度的计划。超大规模AI是利用超级计算机大幅提升运算速度的模型,近来主要用于实现生成式AI服务,即通过大量数据学习得出人类水平的对话或绘画等新成果。不过,此类AI服务存在侵犯个人信息或扩散错误信息的副作用,政府因此决定主动应对。

政府提出目标:在AI伦理与可信度指标“AI民主价值指数”上保持第一,并将去年排名第11位的牛津洞察“政府AI治理与伦理”排名提升至第5位。为实现这一目标,制定了“支持民间自律确保AI伦理·可信度”“构建引领世界的AI伦理·可信度技术与制度基础”“在全社会普及负责任的AI意识”三大推进课题。

其中,“构建引领世界的AI伦理·可信度技术与制度基础”课题包含自今年12月起面向生成式AI企业、建立超大规模AI模型可信度评估体系的计划。该体系将以企业通过认证专门机构自愿接受检验与认证、政府支持企业参与的方式实施。为此,将在下月前建成用于衡量可信度的数据,包括阻断偏向性或歧视性内容的“公平性”、防止AI得出错误信息的幻觉现象并管理信息来源的“事实准确性”,以及“来源适当性”和“使用适合性”等。

政府正研究自下月起引入标示AI生成物的水印。水印将先以向企业建议的方式实施,今后推动分阶段强制化。自明年起将制定判定“高风险AI”的标准,同时到2027年将投入220亿韩元规模,开发应对AI偏向性、不透明性、误动作等问题的技术。

为“支持民间自律确保AI伦理·可信度”,政府将自下月起制定或扩大生成式AI服务各领域指南。政府还决定推动引入相关制度,包括诊断AI风险因素并提供改进方案的咨询、对可信度优秀的AI进行表彰、制定国内及国际标准等。为“在全社会普及负责任的AI意识”,计划在中小学试点实施AI伦理教育,并设立推动AI伦理社会性讨论的论坛与沟通渠道。

科学技术信息通信部长官李宗昊表示:“我们将致力于营造AI伦理生态基础,包括支持民间自律的AI可信度检验与认证,并建立合适的监管体系”,“将与相关部门共同完善政策方案。”

阅读韩文原文