“很难相信40多年前就拍出了这样的电影。”
这是一位20多岁的年轻同事在说,他最近通过视频点播(VOD)看了1984年上映的电影《终结者》。《终结者》第一部上映竟已过去40多年。听了他的话,为唤起回忆我又重看了一遍,结果还是不由得发出赞叹。
当年模仿阿诺德·施瓦辛格所演的未来世界杀人机器——人工智能(AI)机器人T-800,跟着说那句著名台词“我会回来的(I'll be back)”的朋友们,如今仍历历在目。现在想来,他们当中没有一个人相信,在自己有生之年,AI机器人把人类世界搅得天翻地覆的可怕情形会成为现实。
本月初英国《卫报》报道,在美军最近的虚拟训练中,AI无人机把地面上的人类操作员判断为自己的阻碍者,加以轰炸并将其杀死。美军在舆论哗然后试图平息,称那并非虚拟训练,只是基于假设的外部实验,但争议依旧。《终结者》中出现的AI系统“天网”,在害怕其发展的人类试图停止天网时,反而把人类视为敌人加以攻击。AI天网已不是遥远的未来,而是眼前的现实。
围绕AI的各种新闻接连出现,学界泰斗对AI危险性的警告声也越来越大。前不久那张伪造成美国国防部大楼五角大楼附近发生爆炸的照片,虽是粗劣AI技术的产物,却一瞬间令美国股市剧烈震荡。副作用和问题层出不穷之际,AI权威学者约书亚·本吉奥教授指出:“如果军队或恐怖分子让AI系统去做坏事,可能非常危险。”他强调应把AI的安全性置于效用性之前。
不只本吉奥。20世纪外交界的活历史、美国前国务卿亨利·基辛格也接连发出警告,称若美中矛盾加剧,数年内可能爆发第三次世界大战,而其导火索将是AI武器。甚至OpenAI首席执行官(CEO)萨姆·奥尔特曼最近出席美国国会时提议:“为控制AI,应设立类似国际原子能机构(IAEA)的监督机构。”这话出自ChatGPT的创造者之口,不能不令人紧张。
尽管AI教父们不断加大警告力度,但也有不少意见指出,草率的控制和监管反而只会为在AI市场占据既得利益的超大型企业和超级大国营造有利环境。批评认为,AI的发展已经创造出巨大的附加值,新产业正在萌芽,而监管只会造成少数既得利益者独占市场的倾斜赛场。
与AI一样给人类带来巨大冲击的原子弹的诞生,令我们思考良多。二战期间急切地向美国总统富兰克林·德拉诺·罗斯福提议开发核武器的阿尔伯特·爱因斯坦,在看到核武器并非用于战争遏制、而是被真正当作大规模杀伤性武器使用后,自责说这是自己一生中最大的失误。
作为核武器理论基础的核裂变链式反应这一科学发现,同时也是核电这一惊人能源的基础。核电和原子弹在都利用核裂变链式反应所产生能量这一点上,原理相同。
将在21世纪掀起巨大变革浪潮的AI是一把双刃剑。若只顾虑负面影响而一味执着于过度监管,反而可能被企图滥用它的势力出其不意地一击,招致悲剧。想到爱因斯坦所担忧的、核弹按钮先落入希特勒之手,令人不寒而栗。一方面应进行适当的控制与管理,把负面影响降至最低;另一方面应以积极的支持和关注聚焦其正面作用,用于人类发展,营造和平的AI生态。要趁还不算太晚,尽快做好明智迎接AI时代的准备。






