2019-12-20 | 최성욱 기자

[书架-《九大巨头》]AI开发…如此下去民主主义终结

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

2049年,每个家庭都会雇用人工智能(AI)机器人管家。管家机器人会依据各家庭的环境接受训练并适应,提供定制化服务。地球上再也不存在感冒。AI会诊断是哪种病毒让我们生病,药物则由受过特殊训练的AI药师调配。AI还从事创造性活动。英国传奇摇滚乐队滚石乐队的成员数年前已离世,但依靠复制算法仍不断发表新专辑。纸质报纸消失,雇用了计算机记者的媒体通过智能新闻代理向读者传递定制化新闻。

这似乎是遥远未来的故事,但在2019年的当下,AI已深入介入医疗、农业、交通、体育等我们生活的深处。日常中,它通过导航引导司机避开拥堵走上快速路线;在互联网上,它还能找出用户输错词语的准确含义。它也承担着基于个人信息代替我们决定买什么、看什么、吃什么、听什么的角色。与AI共处的人类,10年、30年、50年后真的会生活在梦想中的乌托邦吗。

美国纽约大学战略预测教授、未来学家艾米·韦布所著新书《大九》描绘了AI技术开发带来的三种未来情景。书中称,基于实际数据与研究资料建模的未来将沿乐观、务实、灾难三种情景之一展开。其核心是引领AI产业的九大科技巨头,即美国的“G-MAFIA”(谷歌、微软、苹果、Facebook、IBM、亚马逊)和中国的“BAT”(百度、阿里巴巴、腾讯)。作者提出,随着分属美中两方的这些企业的霸权之争,我们的未来可能走向完全不同的方向。

目前大九企业的AI开发已从能够反复处理简单业务的“弱人工智能(ANI)”迈入自主思考与判断的“强人工智能(AGI)”阶段。这是一种AI识别特定人的模式以迅速作出决策、并找出大数据中隐藏的规律性从而精准预测的技术。正如AlphaGo Zero找出了人类开发千年的围棋战略那样,AI依靠自行开发的智能进行训练并取胜,这一点正变得愈发明确。这也意味着AI正更加接近人类的认知水平。

问题在于透明性。由大九构建的AI技术,是以少数开发者的个人想法和集体意识形态为基础的。这会原封不动地反映在AI生态系统、代码库、算法、框架、硬件与网络设计之中。因此虽能更快更高效地作业,但同时也产生了不考虑例外情况的错误。对女性、黑人等少数群体的信息不足即为典型。作者指出:“大九的AI开发中,并未包含对人类在文化、政治、宗教、性生活、道德性方面数十亿种微妙差异如何在AI程序中被最优化的思考,也未包含在错误的性别文化或人类普遍价值被忽视的情况下、若AI不作出与人类相同的道德判断该怎么办的思考”,“如果AI技术开发与特定势力或政治偏向相联结,或许会给人类带来严重危害。”

书中警告,若AI开发照当前情形推进,人类可能面临最糟糕的局面。来看作者预见的灾难情景:雇用AI性爱机器人的性交易场所林立,技术人员短缺,而白领岗位消失。注入体内的纳米机器人可治疗疾病,但会以无法预测的行为干扰人类的决策。纳米机器人一旦在胎儿组织中发现任何异常症状,即便未经父母同意也会使胎儿流产。此外,在中国与全球150多个国家构建网络的同时,美国的同盟国体系崩溃,这最终导向民主主义的终结。作者表示:“今后将发生的事,比迄今造出的任何炸弹都更具威胁性、更即时、更精准。”

书中主张,为了人类更好的未来,必须扭转大九偏重短期的开发方向。应设立由反映性别、种族、宗教、政治多样性的成员组成的国际人工智能促进联盟(GAIA),从长远视角尽快对AI技术开发进行全面结构改革。作者由此呼吁全世界就以下原则达成共识:使以大九为主轴的AI开发最大限度地为人类带来利益、透明地推进,并让所有人都能受益。定价17000韩元。

阅读韩文原文