2016年3月,世界首次直面此前只是隐约感知的人工智能(AI)真容。在以李世石与AlphaGo围棋对局形式举行的谷歌DeepMind挑战赛中,人类败给了AI。围绕这场对决,还出现了AI即将征服人类的阴谋论。
打造出令人类震惊的人工智能AlphaGo的公司,是谷歌旗下的人工智能研究企业DeepMind。DeepMind创始人穆斯塔法·苏莱曼于2022年离开谷歌,创办了生成式人工智能开发企业Inflection AI。
Inflection AI以人性化的生成式AI为主打,去年获得比尔·盖茨等知名投资者认可的40亿美元企业价值,并成功吸引高达13亿美元的新投资。其聊天机器人AI“Pi”以如同亲密朋友的对话方式受到关注,并正基于去年11月新推出的语言模型Inflection-2进行升级。
身处AI业界最前线的他,如何看待AI将带来的未来?看似一味乐观,但他的想法完全不是这样。苏莱曼表示:“我们的乐观态度必须建立在冷静的现实基础之上”,“要防止失败,就必须能够与之对抗”,强调为AI的负面影响做好准备。
作者称:“30年内到来的新技术浪潮,将提出人类可能面对的最根本的问题。”在他看来,与技术的运用同样重要的是对技术的“遏制”。“技术的挑战课题在于遏制技术的力量,使其能够持续有益于我们人类和地球”,他的这一分析极具启示意义。
我们如今即使凭借尚处初级水平的AI,也已能完成无穷无尽的事情。ChatGPT正在彻底改变搜索的范式,生成式AI创作的音乐与绘画正遍布各处。若AI进一步发展,我们甚至难以估量自己将能做到什么。
作者分析认为,AI强大的力量也可能摧毁我们。AI的错误分析与运用,可能制造并传播新的病毒或疾病。个人信息完全泄露的黑客风险也不容忽视。ChatGPT也可能生产和传播错误信息。金融市场可能被扭曲以致完全崩溃。苏莱曼说:“重要的是如何规避风险。”
他表示,对技术的监管与遏制无法以传统方式实现。因为AI技术通用性强,被应用于社会各领域。他提出的并非对AI的细致监管,而是建立全方位、综合性的遏制流程。
他谈到,必须建立能够适当制衡AI技术的政策与治理结构。但即便是他,对这类解决方案也并不乐观。“必须遏制那无法被遏制的东西”,他的这一建议既带来警醒,也引发悲观的思绪。
正如书名所寓意的,AI的商用化、日常化是不久将汹涌袭来、无法拒绝的浪潮。苏莱曼警告:“即将到来的技术浪潮,有可能以比以往所见任何事物都更快、更大规模的方式失败”,“乍看之下,这是无法遏制的局面”。在他看来,当下是“面临甚至威胁我们物种存续的风险的时刻”。在被到来的浪潮席卷之前,正是防范风险之时。2.5万韩元。






