2021-04-18 | 김현진 기자 stari@sedaily.com

[转盘]AI风险与保险

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

2016年3月,因人工智能(AI)与人类对决而备受世人瞩目的AlphaGo对李世石围棋大战,是预告AI时代的序幕。此后AI在各行各业主导着第四次工业革命。

AI时代的前景并非一片光明。正如所有科学技术都在试错中发展,AI也不例外。然而AI比以往任何科学技术都更强大、更具威胁性,AI的试错可能带来不可挽回的后果。美国骑士资本集团2012年因交易软件出错,仅45分钟就蒙受4.4亿美元损失,次日股价暴跌47.4%。交易软件缺陷的冲击已如此之大,若在远比其强大的AI上发生错误,转瞬之间就可能引发无法承受的金融事故。

麻省理工学院(MIT)物理学教授迈克斯·泰格马克在其著作《生命3.0》中指出,技术越强大,就越应把重点放在事前安全研究上,而非通过试错进行事后应对。比较捕鼠器与核能时,核能事前安全研究的重要性不言而喻。AI是能够破坏电网、股市和核武器系统的强大技术。因此,对AI应集中于事前安全研究而非事后应对。

考虑到这一点,此次韩国金融委员会制定“金融领域AI运营指引”的方案值得欢迎。在金融领域,AI已被用于投资咨询、算法交易、高频交易等,未来还将全面投入客户业务、信用评价及贷款·保险审核业务、欺诈识别业务等。这可视为为应对机器人投顾等金融领域AI应用扩大,化解AI潜在风险并确保可信度的举措。

不过,预测并应对未曾走过的路存在局限。而且无论怎样努力,都不存在完美的措施。事故必然发生,若事故损害达到我们无法承受的程度,我们在运用AI时就只能犹豫。因此需要化解潜在风险的应对之策。其中之一是,正如人们竭力预防核事故但仍设有核事故保险一样,对AI也应在尽力做好事前安全措施的同时,准备AI事故保险。

虽有不少人看空保险业的未来,但为应对层出不穷的各种新风险,保险业恐怕会忙得不可开交。在AI时代,保险业将承担金融领域AI应用主体与AI相关事故应对主体这两重角色。期待保险业能成功履行这两项角色。

/金贤珍 记者 stari@sedaily.com

阅读韩文原文