“信息技术革命由技术人员、企业家和科学家创造,但他们几乎不了解自己的决定具有何种政治含义,也不代表任何人。国会和政党能否自行采取行动?就目前来看似乎并非如此。”
这是历史学家尤瓦尔·赫拉利所著《21世纪的21堂课》中的一段话。在足以震动文明与人类的变化以企业家和技术人员为中心推进之际,本应加以制衡的市民与政治却未能发挥作用,他对这一现实进行了讽刺。看到由大规模语言模型(LLM)引发的人工智能(AI)发展局面,人们会对赫拉利的指摘产生共鸣。
近期暂告平息的OpenAI事件,其本质并非单纯的权力游戏,而是对AI技术发展速度与安全性保障之间适当平衡的见解分歧。将从AI发展中获得最大利益的OpenAI内部爆发这样的争论,值得关注。内情尚未公开,但名为“Q*”的下一代模型似乎成了导火索。据推测,OpenAI首席执行官(CEO)萨姆·奥尔特曼称其为“公司创立以来第四个重要时刻”,这种足以将AI水平提升一个层级的可怕能力刺激了研究者的恐惧。
尽管具有破坏性可能,所有事情都只在OpenAI董事会这一由企业家和技术人员组成的“密室”中讨论。即便那里发生了绝不能仅交由科学家和技术人员决定的重大决策,密室之外的人们也无从得知。正如ChatGPT以史上最快速度聚集1亿用户,今后OpenAI所作决定的影响也将瞬间扩散至全球。本月初各国首脑在英国聚首以阻止AI技术的灾难性后果,距今尚不足一个月,但在此次OpenAI事件中,政治与大众所能做的只是旁观。
人们常把LLM称为“黑箱”。因为学习了天文数量级参数与海量数据的模型机制,连创造它的人都无法理解。然而真正更大的问题并不是LLM这个黑箱。在推动AI发展过程中本应同步进行的社会层面审议与政治过程中产生的“黑箱”,才是真正可能将人类置于危险之中的东西。现在正是应更积极展开有关AI安全性的社会讨论之时。






