2024-08-22 | 실리콘밸리=윤민혁 특파원

OpenAI表态反对加州“AI监管法案”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

OpenAI就美国加利福尼亚州正在推动引入的人工智能(AI)安全监管法案"SB1047"正式表明反对立场。SB1047要求达到一定规模的AI开发企业必须防止"致命性危害",但有观点指出其规定模糊,可能妨碍AI发展。

据彭博社21日(当地时间)报道,OpenAI向提出SB1047的加州州参议员斯科特·维纳致函称:"该法案会妨碍AI产业创新,可能对美国AI竞争力和国家安全造成广泛而严重的影响",并主张"AI相关监管应由联邦政府而非州政府层面来实施"。

据悉,出于对法案通过的担忧,OpenAI已暂缓有关扩建旧金山办公室的讨论。极端情况下意味着可能迁移总部。OpenAI首席战略官(CSO)Jason Kwon在函中指出:"AI革命才刚刚开始,加州作为AI领域全球领导者的地位正为州经济注入活力","SB1047将促使加州世界一流的工程师和创业者为寻找更大机会而前往其他州"。

被称为AI安全法案的SB1047,强制要求采取措施防止因AI导致的大规模杀伤性武器开发、造成5亿美元以上财务损失等"严重危害"。必须能够强制关闭AI系统,并须尽到"合理注意"以避免AI引发重大灾难。维纳议员将其称为"常识性安全标准"。

AI开发企业与学界立场分歧。OpenAI与微软(MS)阵营以标准模糊为问题予以反对。他们认为,没有可检验法案所要求的常识性安全的标准,对由谁来监督相关规定也尚未确定。斯坦福大学教授吴恩达、纽约大学教授杨立昆等也站在反对阵营。

相反,被称为"深度学习之父"的多伦多大学教授杰弗里·辛顿、蒙特利尔大学教授约书亚·本吉奥等则赞成该法案。以开发更安全AI为旗帜、与OpenAI竞争的Anthropic最初也反对该法案,但对排除违规刑事责任、并纳入对小规模开源模型开发者保护措施等内容的新法案表示赞成。

SB1047将在本月内提交加州州议会进行最终表决。在州议会通过的可能性较高。此后,球将交到加州州长加文·纽森手中。民主党籍的纽森州长一直未就法案表明立场,但民主党主流内部对法案意见也存在分歧,因此存在行使否决权的可能。加州19届议员、前众议院议长南希·佩洛西是民主党内反对该法案的代表人物。

若最终获得实施,即便总部不在加州,只要在州内开展业务就必须遵守该法案,影响预计将会扩大。此外,这也可能成为全美各州议会已提交的约400项AI相关法案连锁出台的开端。不过也有观点指出,由于法案不够具体,可能不会产生实际影响力。

阅读韩文原文