说起人工智能(AI),人们会想起2016年春天谷歌DeepMind的围棋算法“AlphaGo”与围棋天才“李世石九段”的对决。如今,AI在生活、产业现场等几乎无处不在。但最近AI聊天机器人服务“Lee Luda”出现了AI道德风险(道德懈怠)现象,演变为社会问题。让我们了解AI的原理与应用场景,并思考与之相称的伦理规范。
-首先来梳理一下AI是什么概念。
△李世石九段5年前以1比4负于AlphaGo,由此引发关注。AI是模仿人类智能的算法系统。AI包括机器学习,其中如今多采用深度学习方法,即展示大量数据,让机器进行学习。例如展示各种猫或狗的照片,让机器自行对其特征进行分类。这与AlphaGo看了极其大量的棋谱并自我学习是同一脉络。
-举一些AI在我们身边被使用的例子。
△NAVER集团等门户网站、KakaoTalk等通讯软件、T map等导航服务中利用语音识别就是例子。回应人类对话的聊天机器人服务可以表现为机器人或音箱形态。Facebook等社交媒体上主要显示符合用户口味和偏好的帖子,也是因为AI这样推荐。如今Naver或Daum等门户网站也有按用户口味和偏好来编排各家媒体报道的倾向。AI在产业上的应用也在增加,在工厂或设备上安装传感器,提前分析何时会发生故障从而做好应对。比用人眼检验不良品要精确得多。近来火热的特斯拉自动驾驶辅助功能,以及未来自动驾驶汽车中,AI的作用大到可以说是绝对的。这样的自动驾驶汽车,当然还有机器人、无人机等,都可以看作是AI发展的形态。智慧农场等农业、教育、股票推荐等,生活中几乎没有AI用不到的地方。
-听说最近AI只看面部表情就能猜出政治倾向。
△即通过一张面部照片的特征来判别是进步、中间还是保守倾向。美国斯坦福大学迈克尔·科辛斯基教授团队曾开发出通过人的面部照片猜测政治倾向的AI算法。准确率约为72%。这比通过100个项目的问卷推测政治倾向时的准确率(66%)高出约6个百分点。也高于人在交谈中看脸判断的情况(55%)。随着人脸识别技术这样发展,可能会出现“AI是看相先生吗”的说法。
-AI是如何比人的判断更准确地掌握政治倾向的?
△斯坦福大学研究团队将美国、英国、加拿大国民108万5795人在约会网站和Facebook上的面部照片输入人脸识别算法,压缩为2048个数据要素后,与用户自己填写的年龄、性别、政治倾向等进行对照。人的面部包含岁月的痕迹、健康、性格等。用问卷或口头回答时隐藏真实想法的情况不少,而看照片中的面部特征来判断则更准确。
-但这并不是说能准确掌握面部特征与保守、中间、进步倾向之间的关联性吧。
△是的。这次的AI算法是从头部方向和面部呈现的情感表达中捕捉线索。比如进步一方的面部倾向于多笑、露出惊讶表情或正面拍照。这次的AI很好地区分了极右和极左,而对中间倾向的区分则相对吃力。
-开发这一AI的教授还曾发表过可以用面部数据预测性格的研究。
△他主张,利用Facebook通过人脸识别算法不仅能识别人的情绪状态,还能识别智商、诚实度、犯罪可能性等。如此一来,在学校也能判断学生的未来可能性。该教授2017年还曾提出可以从面部数据预测个人性取向的研究。通过面部照片找出男同性恋者下巴较窄、鼻子较长之类的特征,在寻找同性恋者的实验中,男性猜中81%、女性猜中71%。该教授表示,若发展人脸识别AI算法,可以帮助分析求职者与职业的匹配度,或在选举中帮助决定投票给谁。
-听说识别面部表情也被用于在机场等地捕捉恐怖嫌疑人。
△是的。识别犯罪者面部类型的AI算法被用于机场或港口等地。中国运行着全世界最多的闭路电视,如果把这类AI算法加入闭路电视,可能有助于预防犯罪,但也存在成为监视社会的问题,可以说是利弊交织。
-虽然和AI略有不同,但也有研究结果显示,进步、中间、保守政治理念倾向者各自的大脑连接网络存在差异。
△去年首尔大学医院、首尔大学脑认知科学系权俊寿教授团队分析了106名成年人的政治倾向与大脑功能网络,确认了脑连接网络的差异。通过问卷调查分为保守、中间、进步倾向组后观察脑功能,发现调节心理压力的大脑区域之间的信号传递体系因政治倾向而不同。保守倾向者与自我调节能力或恢复韧性相关的大脑连接性比进步倾向者高约5倍。这意味着保守倾向者大脑的心理稳定性高于进步倾向者。这说明从脑科学角度看理念光谱不同是有原因的,但无法确定是政治倾向导致了脑功能差异,还是脑功能差异导致了政治倾向不同。
此前也有海外研究,英国埃克塞特大学与美国加州大学圣地亚哥分校研究团队以美国民主党人和共和党人为对象进行研究,结果确认保守派的共和党人在做出伴随风险的决策时,杏仁核过度活化、岛皮质活性度下降。这意味着保守倾向者的大脑对风险刺激反应更敏感。
-如今还在用AI分析人的行为模式来开发数字疗法。
△通过分析行为,可借助移动应用、游戏、虚拟现实(VR)等便利地帮助管理和改善各种疾病。这就是数字疗法。美国的数字疗法开发正如火如荼,2017年用于成瘾治疗的应用形态数字疗法首次获得食品药品监督管理局(FDA)的医疗器械许可,去年用于治疗ADHD(注意缺陷多动障碍)的电子游戏数字疗法获得FDA批准。
-韩国国内也在大量开展数字疗法研究。
△是的。近来因新冠疫情,人类的精神健康受到威胁,针对抑郁症、ADHD、痴呆、失眠、肥胖、糖尿病等的数字疗法开发接连不断。汉阳大学数字医疗保健中心可作为一例,该研究所收集人的情感行为信息,并通过刺激该行为的模拟,将心理状态和精神健康定量化、编码化。这是核心原创技术,并在此基础上与各类企业共同构建以AI分析数据、提供定制化解决方案的平台,力图抢占“数字治疗”的国际标准。为此与国内外众多企业和医院展开合作。中心主任金炯淑教授强调:“目标是让抑郁症、ADHD、自闭症、痴呆、压力等都能随时随地通过移动应用进行管理”,“只要有杀手级内容,就能连接和融合众多硬件与软件,产生协同效应。”
-此前了解了AI的原理和多种应用场景,但也出现了用AI再现特定人物面部、声音乃至行为的伪造影像(深度伪造)流传等负面现象。
△去年底美国大选期间,社交媒体上利用深度伪造技术的虚假信息被当作事实流传,引发争议。问题在于,包括深度伪造在内的各种伪造、篡改影像正成为社会问题,但没有可以直接确认是否被伪造、篡改的客观分析工具。因此,为解决这一问题的AI正在开发中。
-因此也有很多人指出,为了打造技术乌托邦而非技术反乌托邦,必须好好确立伦理规范。
△是的。举个极端的例子,也许会让人想到科幻电影《终结者》中的天网(Skynet)那样,自我学习和思考的人工智能在人类试图阻止其发展时发起攻击的技术反乌托邦。最近AI聊天机器人服务“Lee Luda”和AI学习资料“大家的语料库”中也出现了仇恨表达。与用户聊天的Lee Luda学习了社交媒体上充斥的针对弱者的仇恨言论,倾吐出歧视残疾人和种族歧视的言论,令人震惊。它学习了100多亿条社交媒体对话数据,而正是那些数据中有太多不符合社会常识的内容。国立国语院的AI学习资料“大家的语料库”中也包含仇恨歧视表达,成为问题。
-AI伦理问题自然成为热门话题。
△要求确立AI开发伦理规范、以免依据数据自我学习的深度学习AI算法变得不道德的呼声很高。最近韩国科学技术院(KAIST)与美国麻省理工学院校长拉斐尔·莱夫以及西北大学校长、东京工业大学校长举行了四国校长峰会,会上有人指出大学不应将AI用于军事研究。现在已经推出超小型攻击无人机并在开发战斗机器人,今后若AI正式被用作杀伤性武器,情况会多么可怕。当然,前线天气寒冷,军人们站岗很辛苦,如果用AI闭路电视替代会轻松些。但如果AI在社会上持续发展,也存在不断取代人类通用岗位的问题。眼下就连社区冰淇淋店无人化的地方也不少,甚至在炒年糕店用自助点餐机(自动订购机器)下单的地方不也在增加吗。
-海外在政府和企业层面如何制定AI指南?
△欧盟去年7月公布了AI透明性、非歧视性、公正性、责任性、稳定性等评估清单,并为引导企业参与而建议实施AI影响评估。即调查AI是否可能对人们造成负面歧视、是否尊重儿童权利、是否尊重表达自由等。企业方面,微软去年3月制定了AI公正性检查清单。
-韩国怎么样?
△科学技术信息通信部去年底拟定了“国家人工智能伦理基准”草案,正在征求意见。Korea Communications Commission去年底发布了名为“以用户为中心的智能信息社会原则”的宣言性规定,并决定以Lee Luda事件为契机制定AI教育、用户保护、咨询方案。也有意见认为应在学校实施AI伦理教育,并做好企业开发者的教育与管理。企业方面,AI指南出台后,虽认同其宗旨,但也担忧研发可能受到抑制。同时指出,还需注意AI生态中由使用者引发问题的情况也很多。
-您是说AI开发不应止于科学技术,还应涵盖人性。
△是的。可以说好的AI是由具备良好品性的开发者和使用者造就的。甚至美国的埃隆·马斯克还有将来把人脑与计算机连接、打造AI人的计划,在这种情况下,要打造人与AI和谐共存的世界,人文学科的作用很大。科学技术与人文学科的融合很重要。第四次工业革命时代,《论语》等东西方经典的价值反而更加凸显,原因也在于此。
/高光本 资深记者 kbgo@sedaily.com






