“为预防金融领域因使用人工智能(AI)而发生事故,需要设立由高管级委员长领导、能够统筹相关部门的AI决策机构。其中当然应包括信息技术(IT)或风险管理高管,但金融消费者保护总负责人(CCO)的角色最为重要。”
韩国金融监督院数字·IT副院长助理李宗五18日在“第二届Seoul Economic Daily内部控制政策论坛”主题演讲中表示:“为解决利益冲突问题,金融监督院建议将AI风险管理专职组织与AI规划·开发组织在组织和职能上分离。”风险管理、AI系统开发、消费者保护、AI伦理委员会运营指引等风险管理规定也应作为公司内部规章加以制定。
这位副院长助理强调,有观点指出近期金融业接连发生的安全事故,很大程度上源于过去经营层将安全投资视为成本而有所忽视,因此在AI向全部业务扩散的当下,必须尽快以体系化方式防范AI事故。他指出,通过AI咨询向客户提供错误信息而造成损失,或AI聊天机器人训练数据中包含的个人信息在回答中被泄露等事故发生的可能性很高。
银行、保险、证券等金融业被视为各产业中AI潜力最大的领域。去年世界经济论坛(WEF·达沃斯论坛)观察认为,鉴于金融业庞大的数据和以语言为基础的业务特性,在自动化和业务强化方面效率将比现在提升69%~73%。据近期国际金融协会(IIF)报告,全球84%的金融机构已将生成式AI引入业务环境,而韩国国内约为56%。该副院长助理指出:“阻碍AI引入和扩散的最大障碍因素是缺乏AI治理与风险管理方案。”
他指出,韩国国内金融公司在高影响AI(对生命、人身安全、基本权利等产生重大影响或可能引发风险的AI系统)方面,服务提供率及相关义务履行水平较为不足。今年1月金融监督院调查结果显示,仅有8%的韩国金融公司提供高影响AI服务,且在风险管理方案、用户保护方案、文档编制等方面,多数公司未尽到经营者责任。
该副院长助理详细介绍了为构建AI治理与风险管理方案而由金融监督院制定的AI风险管理框架(AI RMF)。由治理、风险评估、风险控制三大支柱构成的RMF,是一种为金融公司自主管理风险提供结构性基础的指引。在金融公司最感棘手的风险评估方面,将合法性原则、可靠性原则、诚实信用原则、安全性原则四个部分各细分为3~5个评估项目以测定风险度,并据结果决定产品或服务的控制水平。
根据今年1月施行的AI基本法,目前金融业中被归类为高影响AI服务的业务仍仅限于银行业的“无人工介入审核的贷款”,但随着今后技术发展,范围很可能进一步扩大,这也是金融业须关注风险管理方案的理由之一。
他说明:“指引中也没有明确界定属于高影响AI服务的贷款范围从哪到哪”,“短期内,特定服务是否属于高影响AI,金融公司需积极与韩国科学技术情报通信部、金融监督院等沟通”。
最后,该副院长助理叮嘱,由于监管绝无可能追上AI技术的发展速度,构建自律性内部控制最为重要。他强调:“近期发生的虚拟资产交易所事故,若能很好地遵守内部自律规范本可避免”,“在AI技术领先于监管速度的当下,金融公司自行构建负责任的风险管理体系时,可持续增长之路也将随之开启”。






