2024-01-21 | 윤지영 기자

[轮转]聪明的AI监管

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

当下正是人工智能(AI)时代。有预测称,AI将提升人类生产力,到2030年创造高达16万亿美元的价值。它不仅将促进经济增长、推动国内生产总值(GDP)上升,还将为有效运用AI能力的个人和组织带来竞争优势。此外,AI还能帮助解决人类面临的最紧迫课题,如新药研发、制造业与食品产业发展、应对气候变化等。

但与其他技术一样,AI也蕴含着风险与被滥用的可能。若不以负责任的方式使用AI,在敏感且安全至关重要的领域可能引发重大问题。这是我们必须克服的严峻课题,也是需要明智监管的原因。从见证AI产业发展所得的体会来看,对AI的监管应基于以下三项核心原则。

第一,监管应针对AI可能引发的风险,而非针对AI算法本身。并非所有AI都伴随同等程度的风险。有些是无害的,但某些解决方案可能传播错误信息、导致带有偏见的决策、损害公正性,从而带来负面结果。每一个AI应用场景都各不相同,因此监管必须考虑AI部署的具体情境,对高风险AI的使用应更为细致地加以规范。实际上在半导体领域,从未以许可制方式批准新芯片的发明。取而代之的是控制该产品何时、何地、以何种方式被使用,这有助于促进创新并赋予责任意识。

第二,应让开发和部署AI的人承担责任意识。政府固然扮演重要角色,但这并不意味着其他相关方可以免责。应考虑AI开发者与部署者等相关方的不同角色,并根据AI引入与运营的情况承担相应责任。正如在招聘决策中使用AI而引发就业歧视问题时,企业并不能因此获得免责一样。出于类似理由,若软件开发者制作出助长欺诈行为的金融算法,理应对由此可能造成的潜在损害承担法律责任。

最后,对AI的监管不应以许可制推行,而应支持开放式创新。许可制有形成僵化监管框架的高风险。这可能无意中增加成本、抑制创新,使小型企业和开源开发者处于不利地位,并巩固少数企业的市场支配力。AI应由多数人而非少数人构建,并为多数人服务。充满活力的开放生态系统有利于竞争、创新、技术开发与安全,也是确保AI模型能够在多元视角下形成的安全阀。

要积极将AI用于商业,能够管理风险的监管不可或缺。全球范围内围绕AI的监管讨论正在活跃展开。期待我国也能通过聪明的监管,安全地最大化AI所具备的潜力。

阅读韩文原文