李在明政府上台后,“根除安全麻木症”等强调安全的说法频频出现。李在明总统将工厂和建筑工地等的工伤事故界定为“未必故意的杀人或社会性他杀”,并反复表明要摆脱工伤共和国的意志。自然而言,不仅在产业、交通、建设领域,在食品、化学物质、疾病、自然灾害、环境、网络等领域,安全也成为热门话题。对此有建议认为,将人工智能(AI)嫁接到各个领域以提升社会安全度是有效之举。但现实是,由于各领域用于训练AI的数据收集与管理体系不足,构建有效的社会安全体系并不容易。
首任AI安全研究所所长金明柱7日在接受Seoul Economic Daily采访时强调:“为在国家层面打造安全社会,我将扮演探索AI系统化应用方案的‘夏尔巴’角色。”意即如同夏尔巴人代为背负喜马拉雅远征队的沉重行装并安全引导至顶峰,他要成为AI夏尔巴。AI被用于杀伤性武器或说谎的幻觉现象等副作用不少,他一贯主张应在国家层面制作“韩国型AI风险地图”和“国民生活安全地图”,以谋求社会安全。现任首尔女子大学信息保护学部教授的金所长,曾担任韩国著作权委员会副委员长和正确AI研究中心主任,是AI与信息保护专家。
金所长表示,要推进将AI嫁接到制造、医疗、国防、教育、金融、服务等领域的“AI大转型(AX)”,确立利用AI的社会安全体系十分重要。例如,通过AI在产业现场实现生产线风险最小化与路径最优化。在建设、基础设施现场,也可事先让AI学习相关数据,从而及早察觉风险。发生洪水、山火时,可通过AI无人机进行搜索救援和疏散路线引导,用AI分析地震仪和气候数据还能及早探测异常信号。不仅能对患者疾病进行有效诊断,还能在如新冠病毒那样的新型疾病流行之前判别异常模式。基于食品图像的异物检测和保质期判别可保障食品安全。面对黑客技术高度化,也可利用AI守护网络安全。为此,韩国科学技术翰林院启动了“国民生活安全综合支援团”,探索AI应用方案,但仍有很长的路要走。金所长表示:“要通过AI有效实现社会安全,需要互联网、物联网(IoT)、传感器技术支撑的数据收集、存储与管理,创新的AI模型,高性能计算和开放的开发环境。”他强调了确保高质量大数据的重要性。
明年1月起施行的《关于AI发展与信任基础建设等的基本法》规定,为保护国民生命、身体、财产等免受AI可能引发的风险,并维持AI社会的信任基础,须设立AI安全研究所。不过,政府去年底成立研究所时,为便利起见将其置于韩国电子通信研究院(ETRI)之下,因而暴露出一定局限,许多声音认为有必要改为韩国科学技术情报通信部直属。只有这样,才能为AI高度化和有效推进AX牢固奠定AI安全基础。
与此相关,包括DeepMind首席执行官(CEO)戴米斯·哈萨比斯在内的AI专家,更关注缺乏控制AI的安全装置所带来的风险,而非AI造成大规模岗位流失的担忧。因为AI可能被滥用于危险的深度伪造(利用AI合成的照片)或色情内容制作,或在武器制造等方面对国家安全构成致命威胁。金所长表示:“由于美中霸权之争,为AI安全制定国际标准并不容易。”他同时有力地指出:“应以AI安全与保安直接关系国家安全的使命感,着手确立AI安全体系。”他还表示:“为防止机器人等AX推进过程中的意外事故,并促进企业出口,也应积极推进AI的可信性、安全性评估与标准化。”
金所长还表明了为跃升为AI三大强国(G3)而强化AI安全门户作用、积极开展全球合作的构想。他表示:“我们将与美国、英国等的AI安全相关研究所及大学、企业合作,发展为代表亚太地区的AI安全研究所。”并称“也在考虑向东南亚国家联盟(ASEAN)等传授AI安全经验。”






