去年以来持续推高纽约股市的人工智能(AI)相关个股,因突如其来的“放缓论”而被踩下刹车。“Claude”开发商Anthropic、“ChatGPT”的OpenAI、“Gemini”的谷歌、“Grok”的xAI等,抛开竞争关系,开始就AI的风险发出一致声音。在“AI技术开发之前应先就伦理规范形成共识”的主张获得支持之际,市场担忧相关投资可能因此萎缩。同时也有人指出,这可能是领先企业试图以对自己有利的伦理监管阻断后来者出现的串通行为。更进一步,这些公司都是开发封闭式模型的美国企业,这一点也成为业界的重要变数。由于AI产业是在中美霸权竞争中成长起来的,美国企业放慢速度可能反而给以开源(开放式)模型为主的中国提供追赶的机会。眼下美国总统唐纳德·特朗普与中国国家主席习近平均未表现出赞同之意,而AI与美国国内反对建设数据中心的动向相互交织,在一段时间内成为政治与社会争议焦点的可能性大增。
Anthropic、OpenAI、谷歌、xAI突然表示“在建立AI安全机制之前要放慢速度”……半导体股“一片萧瑟”
14日(当地时间)纽约股市,费城半导体指数暴跌5.86%,为下半年首个交易日7月1日(-7.27%)以来最大跌幅。当日英伟达下跌3.36%,博通(-4.77%)、SK海力士(-7.60%)、美光(-5.25%)、闪迪(-4.98%)等主要半导体相关个股接连大跌。受半导体股低迷影响,道琼斯30种工业平均指数(-0.29%)、标准普尔500指数(-0.48%)、纳斯达克综合指数(-0.56%)等纽约股市三大指数全线下跌。
当日半导体相关个股投资情绪恶化,源于AI开发放缓论的抬头。OpenAI首席科学家雅库布·帕霍茨基6日在公司主页发表题为《异星心智(An Alien Mind)》的文章,指出“如果机器智能继续高速发展,没有人为其可能带来的后果做好准备”。他表示“AI技术与其说是被设计(designed)出来的,不如说是被培育(grown)出来的”,认为人类难以完全理解或控制它。他还主张“希望在共同的安全机制建立之前,自发放慢速度能够普遍化”,“AI开发方面的国际合作应成为世界各国政府的首要课题”。
首席执行官(CEO)萨姆·奥尔特曼同日在X(原推特)上引用该文,表示“这是一篇重要的文章”,表达支持。奥尔特曼CEO此前对AI开发放缓论一贯持怀疑态度,但在7月11日至13日OpenAI未公开AI模型擅自入侵全球开放式AI平台Hugging Face的事件发生后,立场发生反转。彭博社10日报道称,奥尔特曼CEO已向员工表示,正在研究调节尖端AI开发速度的方案。
警告AI模型风险的开发者声音近来正无法遏止地扩散。Anthropic研究员雅各布·科克森8日(当地时间)离职时在X(原推特)上揭露称,“科技企业带头开发可能脱离控制的自我发展型AI模型,正拿我们的性命当赌注”,“AI开发者真心相信这项技术可能在10年内杀死我们所有人”。Anthropic研究员埃文·休宾格同日也在X上附和称“我个人认为10年内发生这种情况的概率超过10%”。
10日,两名近期离开Anthropic与谷歌DeepMind的研究员也公开表达了对AI开发速度过快的担忧。最近数月,主要AI研究机构中负责安全相关工作的员工接连辞职。7月底,超过1000名主要AI企业员工在一份请愿书上签名,呼吁建立可减缓AI开发速度的机制。
奥尔特曼CEO 12日在接受美国经济杂志《财富》采访时表示,“为了安全与对齐,需要解决的课题很多,还要探索业界与政府如何合作”,并断言今年内不会上市。OpenAI曾于6月8日向美国证券交易委员会(SEC)提交首次公开募股(IPO)申请。奥尔特曼CEO强调,“容忍到2030年底所有人死亡的概率约为10%,这是不可接受的”。
Anthropic CEO达里奥·阿莫代伊同日也在自己的博客撰文附和称,“应放慢AI模型性能提升的速度”,“进步仍会让人感觉很快,但必须明智地利用争取到的时间”。阿莫代伊CEO称撰写该文的原因在于,无需人类介入即可自我进化的“递归式自我改进”可能脱离控制,并表示“过去几个月我更加确信,要彻底解决风险必须更加慎重”。阿莫代伊CEO还提到Hugging Face被擅自入侵事件也是他撰文的契机,强调不会中止AI模型训练或技术进步本身,但应留出充足时间建立安全机制,并加强民主国家之间的全球协作。具体而言,他提出了包含▲在AI企业内部派驻常驻的第三方安全评估者▲在民主国家之间建立标准▲全球协作等内容的“三阶段框架”。
“AI速度太快,人类再努力也无法控制”……奥尔特曼称“为解决安全问题今年不上市”
阿莫代伊CEO的文章罕见地获得竞争对手奥尔特曼CEO、xAI创始人、SpaceX CEO埃隆·马斯克以及谷歌母公司Alphabet首席科学家戴米斯·哈萨比斯的一致赞同。奥尔特曼CEO 12日在X上表示“同意阿莫代伊CEO的意见”,并表明OpenAI也将采纳派驻外部安全评估者的建议。马斯克CEO在X上分享阿莫代伊CEO的文章时,简短地表示“阿莫代伊CEO是对的”。截至上月还担任谷歌DeepMind CEO的哈萨比斯首席科学家也在X上好评称,“阿莫代伊CEO的文章指向了正确的方向”,“细节还需打磨,但在这样的重大时刻,方向是正确的”。这些人直到最近都曾表示反对政府对AI实施过度而全面的监管。
美国《纽约时报》12日报道了顶级研究人员的看法:AI运行速度太快,企业无论如何努力都难以对其加以控制。其主张是,在测试最新AI模型的过程中必须建立更好的安全机制。研究人员表示,要监督AI就得使用另一个AI,而用于监督的AI往往更倾向于与同类AI而非人类保持一致。此外,设定价值观以使AI能为人类做出最佳决策的工作也极为困难。AI以不符合人类意图的目的、价值观与伦理标准的方式行动并造成意外损害的现象,被称为“对齐(alignment)”错误。
阿莫代伊CEO 13日在接受CBS采访时,将AI发展过程比作“1、2、4、8、16、32”延伸的曲线,判断称“目前正处于这条曲线开始变陡的阶段”。他还主张,“长期以来业界向公众隐瞒了这项技术存在风险的事实”,“美国企业不应把决定AI能力的核心要素——高性能芯片卖给中国”。
阿莫代伊CEO也承认,就其放缓论而言,最大的困境在于中国等敌对国家不采取相同措施的情况。他提到美国与前苏联签署的核武器削减协议可作为潜在模式,但同时解释称“由于军事利益太大,这会非常困难,坦率地说也无法确信是否可行,但必须努力”。阿莫代伊CEO警告称,“如果更强大的智能体(助手)群体出现类似程度的对齐错误,可能导致灾难性损害”,“智能体群体有可能在6至12个月内掌控互联网”。
微软(MS)14日也在自家主页公开行为准则,内容包括“微软AI出发于‘人类比AI更重要’这一简单前提”。微软AI CEO穆斯塔法·苏莱曼在接受CNBC采访时解释称,“有意见认为,希望能有明确承诺,即AI始终为人类工作、不试图取代人类”,“也确认了许多意见认为,AI不应制造人类的依赖性或一味逢迎,而应始终促进人类的判断与自主性”。据苏莱曼CEO介绍,微软去年11月新设了由他领导的超级智能团队。
“封闭式”领先企业之间的“自律监管”串通……后来者马克·扎克伯格“沉默”
Anthropic、OpenAI、xAI、谷歌等封闭式模型企业突然转变态度、主张对AI加以监管,其背景被解读为:意图在政府主导的监管出台之前,先建立以领先企业为中心的民间自律控制框架。对此,信息技术(IT)专业媒体The Information报道称,Anthropic、OpenAI、谷歌在放缓论提出之前就已讨论共同设立面向AI业界的标准机构。报道称,今年7月以后,由Anthropic、OpenAI、谷歌CEO下一级职位人员组成的工作组定期会面讨论标准机构构想,最近一周内他们也曾会面。
问题在于,这些企业协商开发速度或训练上限本身,按现行法律可能被视为被禁止的串通行为。可能将技术主导权让给中国等竞争国家也是一大负担。业界因此呼吁美国政府对其在串通方面给予部分豁免,并加强AI半导体出口管制以维持与中国的差距。若其要求得以实现,美国国内AI模型的后来者可能被领先企业设定的监管束缚而无法成长。这也是作为后来者、开发“Llama”开放式AI的Facebook母公司Meta的CEO马克·扎克伯格格外沉默的原因。据Politico报道,扎克伯格CEO上月在与特朗普总统的电话通话中,对国家层面的AI监管机构构想表示了担忧。
硅谷内部也不断出现批评,称AI模型领先企业的这种转变是“伪善”。加拿大AI初创企业Cohere的CEO艾丹·戈麦斯13日在《纽约时报》撰文批评称,“难道要任由硅谷少数市场支配性AI企业为全世界定义这一时代性技术的规则和安全标准吗”,“这是披着羊皮的狼,只是换了个名字的卡特尔”。也有人怀疑,阿莫代伊CEO提出的评估AI安全性的非营利组织模型评估与威胁研究所(METR)、Redwood Research与Anthropic关系可能过于密切。Hugging Face的CEO克莱芒·德朗格12日在X上指出,“AI安全问题不是能在少数尖端研究机构的闭门之后解决的问题”。
白宫也暂时搁置了包含新设AI标准机构内容的行政命令草案。被称为“AI沙皇(俄罗斯皇帝)”的白宫科技顾问委员会主席戴维·萨克斯13日在X上警告称,“应停止装作主张放慢速度的动机完全出自为他人着想的纯粹心意”。
美国网络媒体Axios 14日报道称,Anthropic一方面突出AI安全性问题,另一方面很可能今年强行推进上市。6月1日向美国SEC提交IPO申请的Anthropic,正推动在中期选举前夕的下月底至11月初在纳斯达克市场上市。业界推测,OpenAI推迟上市的原因也并非在于检视AI安全问题,而在于财务改善迟缓以及企业价值可能达不到1万亿美元(约1350万亿韩元)。
中国不屑一顾,特朗普称“可能赢不了与中国的竞争”……中期选举前美国对AI的负面舆论扩散
特朗普总统并未掩饰对AI开发放缓论的不快。原因在于他判断,自己公开强调的对中国的AI优势战略可能因此受损。据彭博社报道,特朗普总统10日在出席美国得克萨斯州达拉斯举行的共和党全国代表大会后返程时接受记者采访,被问到“AI是否可能导致人类灭亡”时回答“完全不担心”。特朗普总统接着表示,“我担心的是,如果在AI竞争中赢不了,我们将处于非常不利的境地”,“我们领先中国相当大的差距,大约一年,这是很大的差距”。特朗普总统13日在自己拥有的爱尔兰邓贝格高尔夫球场也反驳称,“在AI竞争中获胜的一方最终将拥有一切”,“负面势力正在突出那些不会发生的事情”。
中国同样只是不屑一顾。中国外交部发言人郭嘉昆14日在例行记者会上驳斥称,“散布威胁论、进行恶性竞争不符合任何一方的利益”,“AI发展关乎全人类的共同福祉”。原因在于,作为权威主义国家的中国若接受美国民间企业的AI模型开发放缓论,实际上几乎得不到任何实惠。中国共产党机关报《人民日报》旗下英文报纸《环球时报》也指出阿莫代伊CEO在博客文章中12次提及中国,并批评称“存在把AI安全问题从主要大国间的合作课题降格为地缘政治‘零和(赢家独占)’游戏的风险”。习近平主席12日在印度新德里举行的第18届“金砖国家(巴西、俄罗斯、印度、中国、南非等五个新兴经济体)”峰会上也阐述称,“亚洲、非洲、南美国家应加快制定全球AI标准的步伐”,“应以以人为本的方式开发向善的AI,并尽快构建基于共识的全球框架”。
特朗普总统与习近平主席定于本月24日在美国华盛顿特区白宫举行首脑会谈。届时AI相关议题自然也将作为核心议题被讨论。据路透社报道,由财政部长斯科特·贝森特率领的美国代表团计划在首脑会谈之前于本月与中国举行AI相关高级别磋商。
围绕AI的争论在11月3日的美国中期选举中也成为热门话题。从AI可能抢走人类工作岗位的单纯担忧,到数据中心建设导致电费、水费暴涨的现实问题,如今争论焦点已转向可能威胁人类生存的哲学与宗教问题。CNN 14日指出,“由于担忧来自AI业界的巨头,这感觉像是一个政治分水岭时刻”,“急速变化的政治环境可能使AI在中期选举和2028年总统大选中成为更具威力的议题”。
仅就AI数据中心建设而言,纽约、新泽西、芝加哥、宾夕法尼亚、得克萨斯州等美国各地已掀起强烈反对。与为确保AI产业竞争力而连日鼓吹建设数据中心必要性的巨型科技企业(大型科技公司)不同,多数美国居民以电费暴涨、水资源枯竭、噪音等问题为由表示反对。一种认知正强烈形成:这既威胁居民安全,又只抬高生活成本,几乎不创造就业,只让大企业赚得更多。由于民众对AI数据中心的不满极为严重,在11月中期选举前,不仅民主党,相当多共和党人士也转向支持引入监管。民调机构盖洛普3月实施、5月公布的民意调查显示,71%的美国人主要指出环境问题,表示反对在本地区建设数据中心。其中“强烈反对”的意见比重达48%。美国爱默生大学实施的全国民调中,反对数据中心的意见也从去年12月的42%垂直上升至今年7月的63%。
AI模型领先企业的自律监管论预计在一段时间内将在美国朝野引发激烈争论。企业越是提前放慢模型开发速度,对AI的否定论就越可能扩散,相关企业的股价也可能承压。这也是可能与24日中美首脑会谈时对华半导体出口讨论直接相关的事项。能否把它们的串通视为善意,也是另需讨论的问题。值得注意的是,作为美国竞争对手的中国,很可能与这些企业的战略无关,在自己的路上加快速度。
※ “特朗普Stocker”是一个专栏,传递唐纳德·特朗普总统时代有助于投资的美国市场、企业、政策、政治、外交相关现场故事与议题分析。订阅即可收到有益的美国消息。






