2026-03-18 | 정상훈 기자

“需建立防止AI误判的人类控制网”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

“人工智能(AI)已不再是信息技术(IT)部门的工作,必须纳入合规风险管理和内部审计体系之中。”

德勤安进会计师事务所金融产业综合服务集团(One FSI)合伙人金善浩18日在第二届Seoul Economic Daily内部控制政策论坛主题演讲中表示:“如今重要的不是AI做得多好,而是把AI的判断置于多大程度可控的结构之中”,强调应将AI重新归类为“管理对象业务”。

金合伙人解释称,随着AI的引入,范式正从“能否使用AI”转向“如何控制AI”。他指出,以往主要是人将AI作为工具使用,如今则转变为AI与人实时协作的方式,因此从设计AI的阶段起就应对监管算法进行审视。

金合伙人表示:“就内部控制而言,引入AI的积极效果在于能够克服人力无法企及的局限,实现内部控制的高级化和效率提升”,“而由于必须对AI加以控制,随之出现的新风险因素和控制难度上升则是负面之处。”

他列举金融公司应具备的“AI内部控制框架”包括:△治理 △与业务风险衔接 △数据模型管理 △运营与事后管理 △可解释性等。金合伙人建议:“需要确定AI使用的优先顺序,并制定检查AI应用问题的清单”,“应将AI带来的风险与既有存量风险相衔接,在满足法律和韩国金融监督院要求的前提下加以运用。”

他还指出,由于AI业务基于数据开展,建立学习数据质量管理体系同样重要。在运营与事后管理层面,他提出有必要制定用于监测性能下降或AI误判的检查指标。金合伙人强调:“金融公司的AI,确保内部控制层面的责任性优先于技术完备性”,“为提升透明性、可解释性和可信性,相关负责人不应简单遵从AI生成的结果,而应带着责任意识开展工作。”

他还补充道:“金融公司需要分类,是把AI作为直接执行核心业务流程的一部分,还是作为重要的控制要素”,“否则AI将处于内部控制的盲区。”

阅读韩文原文