2024-09-30 | 실리콘밸리=윤민혁 특파원

加州州长行使否决权…“AI超强监管”暂时刹车

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

对于在人工智能(AI)革命中心地——美国加利福尼亚州曾试图推行的“AI安全法”,州长加文·纽森行使了否决权。理由是该法案只聚焦于AI模型的“规模”而非“风险程度”,需要其他标准。对OpenAI、谷歌等超大规模AI开发企业而言是利好。

29日(当地时间),纽森州长表示已对AI监管法案“SB 1047”行使否决权。这距8月28日州议会通过该法案约一个月。他指出,“该法案仅适用于规模最大、成本最高的AI模型,而未考虑AI是否实际部署于高风险场景”,“小规模AI也会处理涉及敏感数据的重要决策,大规模AI也有停留在客户服务等低风险活动的情形”。

纽森州长也同意对包括AI在内的新技术需要监管。这正是他前一天签署将脑神经数据纳入个人信息保护对象的法案的背景。只是他以“SB 1047”一概适用于超过特定算力、训练成本在1亿美元以上的大规模AI,只考虑公司规模而非风险程度为由予以否决。

他还提出了新的AI监管“标准”。纽森州长表示,“必须基于实证和科学证据”,“正在扩大州政府层面对潜在AI风险的评估,同时与主要AI研究人员共同制定新法案”。

微软(MS)、OpenAI、谷歌、Meta等公开反对该法案的企业得以松一口气。若法案通过,安全性测试将被强制化,还须确保AI不会引发造成5亿美元以上财产损失之类的严重问题,并须设置强制停止AI运行的“终止开关”。

由于该法案适用于在加利福尼亚州经营业务的所有企业,且表述含糊,预计行政诉讼将大量涌现。禁止公开存在“不合理风险”的大型AI模型等条款就是典型。硅谷代表性风险投资机构安德森·霍洛维茨(a16z)合伙人马丁·卡萨多对《华尔街日报》(WSJ)批评称,“没人知道其含义,最终会由缺乏技术知识的法院来判断”。WSJ评价称,“连初创企业也担忧生态系统创新能力下降”,“如果纽森州长签署该法案,将成为在美国全境监管AI的基础”。

也有反对行使否决权的意见。科技界中,特斯拉首席执行官(CEO)埃隆·马斯克是该法案的代表性支持者。被称为生成式AI之父的多伦多大学教授杰弗里·辛顿和蒙特利尔大学教授约书亚·本吉奥等人也一直支持该法案。

阅读韩文原文