2023-05-26 | 박준호 기자

微软:“需设立监管AI的政府机构……关键基础设施AI应装‘安全刹车’”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

随着人工智能(AI)迅速发展,主张应通过监管等方式加以应对的行列中又加入了微软(MS)。微软提议需要监管,包括强制要求AI系统搭载类似“安全刹车”的功能。

微软首席法务官兼副董事长布拉德·史密斯于25日(当地时间)在其博客发文主张:“在联邦政府层面设立监督AI开发的机构最为合理。”他补充强调:“必须确保AI始终处于人类控制之下。这一点应成为技术型企业和政府双方的最优先事项。”他还补充说:“对于物理安全、网络安全、国家安全等最需要保护的AI形态,需要许可审批。”史密斯副董事长一方面呼吁政府“必须行动更快”,如设立监管AI的机构,另一方面也呼吁AI相关企业积极参与。

与史密斯副董事长的言论分开,微软当天在官方博客发文提出了AI监管所需的五项原则。首先主张对用于重要基础设施的AI系统,强制安装一种“安全刹车”,以便在紧急情况下能完全关闭或减速。微软指出:“外界对是否能够控制日益强大的AI提出担忧”,并指出“用于电力、供水、交通等重要基础设施的AI存在控制方面的必要性”。

此外还主张由政府主导建立有关AI技术使用的所谓“护栏”规定。同时表示,需要为AI应用、高级基础模型及AI基础设施建立法律框架,并需为学术性、非营利性AI研究提供资金支持。还提议构建政企合作关系,以解决AI对社会的影响。微软主张:“所有创建或使用先进AI系统的组织都应开发并实施与AI相关的自有治理体系。”

《纽约时报》(NYT)分析称:“随着对AI传播虚假信息并被用于犯罪的担忧加剧,AI开发商正越来越多地要求将约束技术的部分负担转交给政府。”对此,史密斯副董事长向NYT主张:“完全没有回避责任”,“这是在向政府提供想法的同时,承诺无论是否立法都会执行其中一部分”。

阅读韩文原文