2025-09-07 | 고광본 선임기자

“打造AI安全社会,高质量数据必不可少”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

李在明政府上台后,“根除安全麻木症”等强调安全的说法频频出现。李在明总统将工厂和建筑工地等的工伤事故定性为“未必故意的杀人或社会性他杀”,并反复表明要摆脱“工伤共和国”的意志。自然地,不仅在产业、交通、建设领域,在食品、化学物质、疾病、自然灾害、环境、网络等领域,安全也成为热门话题。对此,有建议认为,将人工智能(AI)嫁接到各个领域以提高社会安全度更为有效。但现实是,由于各领域用于训练AI的数据收集与管理体系不完善,构建有效的社会安全系统并不容易。

首任AI安全研究所所长金明柱7日在接受Seoul Economic Daily采访时强调:“为在国家层面打造安全社会,我将发挥探索AI系统化利用方案的‘夏尔巴’作用。”意即如同夏尔巴人代替喜马拉雅远征队背负重担并安全引导至顶峰那样,要成为AI夏尔巴。AI被用于杀伤性武器或出现说假话的幻觉现象等副作用也不少,他一贯主张国家应制作“韩国型AI风险地图”和“国民生活安全地图”以谋求社会安全。现任首尔女子大学信息保护学部教授的金所长,曾任韩国著作权委员会副委员长和正直AI研究中心主任等职,是AI与信息保护专家。

金所长表示,要推进把AI嫁接到制造、医疗、国防、教育、金融、服务等领域的“AI大转型(AX)”,建立利用AI的社会安全体系十分重要。例如,通过AI在产业现场实现生产线风险最小化与路径最优化。在建设和基础设施现场,也可事先让AI学习相关数据以尽早察觉风险。发生洪水、山火时,可通过AI无人机进行搜索救援和疏散路径引导,用AI分析地震仪和气候数据也能尽早探测异常信号。不仅能对患者疾病进行有效诊断,还能在类似新冠病毒的新型疾病流行前判别异常模式。基于食品图像的异物探测与保质期判别可保障食品安全。还可利用AI应对黑客技术的高度化,守护网络安全。为此,韩国科学技术翰林院启动了“国民生活安全综合支援团”,探索AI应用方案,但仍有很长的路要走。金所长表示:“要通过AI有效实现社会安全,需要互联网、物联网(IoT)、传感器技术带来的数据收集与存储管理,创新的AI模型,高性能计算以及开放的开发环境。”他强调了获取高质量大数据的重要性。

明年1月实施的《关于AI发展与信任基础营造等的基本法》规定,为保护国民生命、身体、财产等免受AI可能引发的风险,并维持AI社会的信任基础,须设立AI安全研究所。不过,政府去年底成立该研究所时为方便将其置于韩国电子通信研究院(ETRI)之下,因而暴露出一定局限,不少声音认为有必要改为韩国科学技术情报通信部直属。业内认为只有这样才能为AI高度化和有效推进AX打下牢固的AI安全基础。

对此,包括DeepMind首席执行官(CEO)戴米斯·哈萨比斯在内的AI专家更关注缺乏控制AI的安全装置所带来的风险,而非AI造成大规模失业的担忧。因为AI可能被滥用于危险的深度伪造(利用AI合成的照片)或色情内容制作,或在武器制造等方面对国家安全构成致命威胁。金所长表示:“由于美中霸权之争,为AI安全制定国际标准并不容易。”他同时强调:“应以AI安全与保安直接关系国家安全的使命感,着手确立AI安全体系。”他还表示:“为防止机器人等AX推进过程中出现意外事故并促进企业出口,也应积极推进AI的可信性、安全性评估与标准化。”

金所长还透露了为跃升为AI三大强国(G3)而强化AI安全门户作用、积极开展全球合作的构想。他表示:“将与美国、英国等的AI安全相关研究所及大学、企业合作,发展成为代表亚太地区的AI安全研究所。”他还说:“也在考虑向东南亚国家联盟(ASEAN)等传授AI安全经验。”

阅读韩文原文