2026-05-18

[转盘]AI安全,韩国准备好了吗

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

从对话式聊天机器人到人形机器人,人工智能(AI)技术正从日常生活扩展到产业领域。具备超越人类专家能力的前沿模型,以及自行制定计划并行动的代理型AI的出现,在带来创新的同时也造就了不可预测性这一新威胁。招聘、贷款等领域的不公平歧视、假新闻生成、网络攻击、化学与生物武器制造方法泄露等,风险范围全方位存在。尤其是这类风险即便看起来发生概率不高,一旦越过临界点便无法恢复,具有“低概率高冲击”特性。因此专家预测,一旦风险变为现实,其扩散速度将压倒人类的应对速度。

AI领先国家已转变AI安全政策的取向。2023年在全球率先设立AI安全研究所(AISI)的英国,近期将机构名称改为“AI安保研究所(AI Security Institute)”,将机构目的从安全提升至国家安保。美国也随着唐纳德·特朗普政府第2期启动,撤回了乔·拜登政府以监管为中心的行政命令,并将安全研究所改组为“AI标准与创新中心(CAISI)”,着手捍卫作为AI领先国家的主导权。

各国在展开AI主导权竞争的同时,在AI安全方面则携手合作。因为AI风险不分国界,会引发全球性连锁反应,仅靠某一国家的单独监管无法应对。在这一共识下,2024年11月启动的“AI安全研究所国际网络”近期将名称改为“前沿AI测量评估与科学国际网络(NAAIMES)”,并改变了对AI风险的应对方式。

从主要国家AISI的名称变更中,可以确认国际社会对待AI安全态度的变化。摆脱“安全”之名,以定量测量AI性能与风险的“基于证据的评估科学”为中心重新确立标准,是全球潮流。这是各国希望通过评估标准的标准化,将AI风险的不确定性降至最低这一共识的体现。

韩国于2024年5月在首尔成功举办了第二届AI安全峰会,近期又以企业和学界为中心构建多语言模型自主评估指标等,以独立的评估科学研究为中心,为确立全球AI安全网作出贡献。制度层面的变化也在跟随全球趋势。2024年11月人工智能安全研究所成立,通过今年1月施行的AI基本法为该机构确立了法律依据。

剩下的课题是克服现行应对体系的结构性局限。目前韩国的体系是安保、安全、伦理、政策各领域各自运作的“筒仓结构”。由于缺乏界定风险的共同定义和测量指标,在全面的风险分析与应对上存在局限。要防御同时跨越技术、社会、制度边界的AI风险,需要涵盖各方面的整合应对体系。

拥有12位部长、Personal Information Protection Commission委员长以及国家安保室第三次长作为当然委员的国家人工智能战略委员会最为合适。应修订AI基本法施行令,使该委员会能够作为AI安全的国家指挥塔发挥治理领导力。进一步而言,国会与政府应合力增加预算,使人工智能安全研究所能够像英国的安保研究所或美国的标准与创新中心一样,拥有独立的AI评估权限并发挥作用。

阅读韩文原文