2024-01-11 | 라스베이거스=황정원 기자

“AI由少数玩家主导……在研发竞争中被边缘化将威胁国家安全”[CES2024]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

NCsoft社长尹松伊警告称,人工智能(AI)领域的发达国家可能依据各自利益筑起壁垒。她特别建议,是否掌握AI主导权可能在国家安全层面发挥"游戏规则改变者"的作用,因此韩国不应在AI模型开发竞争中被边缘化。

尹社长9日(当地时间)在美国拉斯维加斯举行的"首尔创新论坛2024"上,以"AI革命与韩国的未来"为主题发表主旨演讲。

她以美国扩大对中国半导体出口限制为例表示:"在需要大量数据的AI竞争中,掌握更多资源的企业占据有利高地,这一点应无异议",并预测"AI产业也可能为各国利益而限制技术共享"。

AI技术正迅速渗透我们的生活,已日趋普及。但若市场由发达国家和大型科技企业等少数玩家主导,则可能引发数据偏见这一副作用。

尹社长以ChatGPT将安重根义士称为恐怖分子、将独岛称为争议地区为例指出:"即便AI是以庞大人口为基础收集的数据构建的,在这些数据中占比较小的少数群体的信息也难以在模型中得到充分反映。"若没有对相关模型的访问权限,就只能被迫接受其结果,因此必须更快行动以开发AI模型。目前的AI模型主要反映的是西方国家生成的数据。

数据的偏向性还会引发国家安全问题。她还将深度伪造(将特定人物面部等合成进视频)之类技术可能带来的社会混乱列为风险。

AI的引入是不可逆的时代潮流。尹社长预测:"如果说过去30年是谷歌、Meta、奈飞等数字原生企业主导产业发展,那么现在到了AI原生企业承担这一角色的时期。"她补充说:"AI原生企业通过将决策和流程自动化等企业业务运转的所有环节以AI为中心运营,可以抢占竞争优势。"也就是说,现有企业也必须进行体质转变,不能仅将AI搭载于自家产品或解决方案,而要应用于整体业务。

她也不忘指出,为产业持续发展,政府稳定营造基础设施的作用十分重要。尹社长表示:"ChatGPT等生成式AI领域是需要大量资本和时间来构建基础设施、获取模型训练所需优质数据的技术","随着技术进步,也存在个人信息安全等政府监管的必要性"。欧盟(EU)已就全球首个规范AI技术的综合性法案达成一致。尹社长强调:"企业有必要自发提高AI系统的透明度,努力消除偏向性,以免必然反映到AI中的偏见和固有观念导致负面结果。"

阅读韩文原文