正在美国纽约出席联合国大会的总统李在明24日(当地时间)表示:“人工智能(AI)可能成为吞食我们的凶猛猛兽,也可能成为《KPop猎魔女团》中可爱的‘达菲’”,强调面对变化要有负责任的态度。
当天在联合国总部举行的安全理事会公开辩论上,李总统以“AI与国际和平·安全”为主题主持会议时作出上述表述。韩国总统坐在联合国会场主席席位主持公开辩论尚属首次,这是因为韩国今年担任安理会轮值主席国。
李总统敲响议事槌宣布辩论开始后表示:“我想起杰弗里·辛顿教授所说的‘当前的AI就像一只小老虎’”,随后继续主持会议。作为知名AI学者、去年诺贝尔物理学奖得主的辛顿,一直警惕随着AI高度发展而脱离人类控制的技术进步,并持续警告AI的危险性。
李总统也将AI比作小老虎,在凶猛猛兽与达菲之间表示:“取决于我们如何对待AI,将展开完全不同的未来。”他同时指出:“如果无法应对变化而被动被牵着走,极端的技术差距将成为超越‘铁幕’的‘硅幕’,加剧全球的不平等与不均衡。”
李总统还提高声调表示:“在AI技术实力就是国力的时代,像过去‘卢德运动(破坏机器运动)’那样逆技术发展而行既不可能,也不现实”,“为国家利益而竞争,但为所有人的利益而合作,才是明智的应对”。即人类的生活取决于对AI的负责任使用。
李总统表示:“要把明暗并存的AI时代变化变成机遇,唯一的方法是国际社会团结起来,确立‘负责任使用的原则’”,“正如许多专家警告的,如果AI使人类灭绝,那将是因为没能制定共同规范”。他还说:“各国政府与学界、产业界、公民社会必须共同商议、汇聚智慧,才能实现向‘为所有人的AI’‘以人为中心的包容性AI’的创新。”
特别是,李总统向国际社会提出了他一直构想的新概念“AI基本社会(AI Universal Basic Society·AI UBS)”。总统室宣传首席秘书李揆渊当天在纽约韩国新闻中心举行的记者会上表示:“AI基本社会是利用AI摆脱失业、自杀、医疗不均衡、虚假操纵信息等,保障普遍生活的社会。”李首席秘书表示:“李总统与首日会面的贝莱德董事长拉里·芬克也谈了同样的话”,并补充说:“这是通过AI探测自杀、金融诈骗等以防止损害,并用AI技术消除金融诈骗、犯罪、虚假操纵信息等风险,从而使大家能够普遍受益的概念。”
李总统就联合国的作用也提高声调表示:“安理会的责任更加重大。”李总统说明称:“如果善加利用AI,它可以成为监视大规模杀伤性武器(WMD)扩散、预防冲突并维持和平的优秀工具,但如果失去控制力,就无法避免虚假信息泛滥、恐怖主义和网络攻击激增的反乌托邦未来。”他还提议:“安全不安或许会因‘AI引发的军备竞赛’而进一步加剧”,“现在国际社会必须分析AI时代变化了的安全环境,寻找共同的应对方案”。他并承诺:“韩国将作为‘全球责任强国’,主导合作,使AI成为创造人类可持续未来的优秀工具。”
关于庆州亚太经合组织(APEC)峰会,他也自信地表示:“为使AI能够为人类繁荣作出贡献,我们正在推动通过‘APEC AI倡议’”,“我们正在努力,使共同享有技术发展成果的AI基本社会、所有人的AI成为新时代的新常态”。
最后,李总统表明决心称:“面对AI将带来的文明史级大转型,人类正处在必须守护漫长历史中共同守护的普遍价值的重要转折点上”,“不要推卸时代使命,让我们把AI带来的变化变成人类再次腾飞的跳板”。
另一方面,继韩国总统首次主持安理会会议之后,辩论的主题发言也由韩国人、美国斯坦福大学教授崔艺珍担任,引发关注。崔教授诊断了特定国家和少数主体开发大规模AI的情况所存在的问题,并发表称“必须打造具有多样可及性的AI”。
? 提出“AI基本社会”的李…“AI是小老虎,既可成猛兽也可成达菲”






