2020-02-06 | 한기석 논설위원

[韩基石论说委员的清论直说]“自动驾驶·影像判读等AI已成现实…须尽快建立法律与制度”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

“如果人工智能(AI)接受并学习了错误的数据,就可能给出被扭曲的结果。鉴于AI已在许多领域被使用,必须意识到AI可能引发社会问题。”

对普通人而言,AI是何种面貌?有人会想起与李世石九段对弈的AlphaGo,也有人会想到科幻电影中支配人类的超级智能。新任韩国人工智能法学会会长高学洙(首尔大学法学专门大学院教授)表示:“AI很少像汽车那样具有实体,因此每个人理解的概念差异很大”,“AI在现实社会中不易看见,但已被广泛使用”。他强调:“应当预见AI介入人类判断与行为可能产生的社会问题,并在问题爆发之前预先整备法律、制度、环境等。”记者就AI发展过程中可能出现哪些问题、社会应作何准备等问题,听取了高会长的见解。

-AI是什么?

△可以说AI是像人一样思考、下结论、作判断的某种东西。若如此定义,AI便是替代人类角色的、类似人造人的存在。以这种方式切入,就会与实际企业或研究现场产生落差。简单来说,AI就是导航、Naver或谷歌的搜索功能、过滤垃圾邮件的功能。这类AI通过特定领域的自动化提升便利性。

-是否可以区分为特定AI与通用AI,或弱AI与强AI?

△类似。以房子来比,有从大梁开始搭建整体框架的方式,也有把握放进这所房子里的AI音箱使用何种技术、有何副作用的方式。在现实社会中,像AI音箱那样从具体的个别功能层面切入更为可取。对AI的理解不同,研究或关注的起点便大不相同。

-具体会有何不同?

△最近我参加了国外的AI论坛活动。上午听到一位来自意大利的研究者讲述利用开源开发的黄瓜分类AI。这一AI把黄瓜农场每天产出的黄瓜拍照识别,按商品性分类并剔除不良品。下午去了另一个分会场,发现法哲学研究者们聚在一起,就是否应赋予AI法人格展开严肃讨论。

-黄瓜分类AI难道不能看作单纯的自动化机器吗?

△现实中大多是这种AI。目前AI被大量应用的领域有医疗保健、金融产业、互联网平台等。例如,医院里使用AI最多的是影像医学科,而细看这里AI所做的事,其原理与黄瓜分类AI相同。就是拍X光之类的片子,若出现白色部分便怀疑有疾病。

-黄瓜分类AI或影像医学科AI算是在作判断吗?不是要作判断才能称为AI吗?

△分类也是判断。区分正常与异常也是判断。看看沃森(IBM开发的医疗用AI),它分析患者的检查数据,给出强烈推荐、一般、不推荐等三种治疗方法。沃森更接近作判断的医生角色,只是不使用诊断或治疗这样的用词。若使用那类用词,法律上可能产生问题。

-假设按沃森提出的方法治疗患者,患者却死亡。这时责任该由谁、如何承担?

△这类事情在不远的将来会成为议题。在沃森的立场上,它只是向医生提出建议或提供参考资料。实际治疗是医生的职责。若医生在没有沃森帮助的情况下,仅看检查资料和患者就选择了A治疗方法,而沃森也提出A,医生会比较安心。若沃森给出B这一答案,医生就会苦恼是否要改变自己的判断。若患者知道这一事实,也可能追问医生为何不采用A方法。沃森以全世界众多医生的研究与治疗成果为背景。若不是资深医生,而是刚结束实习的医生,当沃森提出与自己想法不同的方法时就会动摇。社会上可能出现对医生判断的信任问题。

-自动驾驶似乎是AI不久将在现实世界中显现的代表案例。在设计整个网络时,是否有必要制定自动驾驶车规避临近交通事故的顺序之类的规则?如果不转方向盘会死10人、向右转会死1人,应让它作何选择?

△这是在说让人判断能否为救多数而牺牲少数的电车难题。这类议题是适合在课堂上讨论的题目。在现实中,那就是车坏了。这时不是转不转方向盘的问题,而是让它直接停止运行即可。比这更重要的是,事故必然会发生,最终会造成人身与财产损失,而如何在社会层面处理这些。

-您是在说汽车保险吗?

△自动驾驶车要上路行驶,就必须有应对事故的保险。然而要开发保险产品,事先必须有关于何种事故以何种方式发生多少的数据。我国没有这类数据。

-在我国引入自动驾驶恐怕很难。

△曾有自动驾驶车在首尔大学环路上行驶。这辆车在环路上转了很多圈,积累了大量数据,至少在环路上已是高手水平。若把这辆车拿到拥堵的首尔市政府前行驶,发生交通事故的概率就会升高,因为没有在首尔市政府前行驶过的数据。美国与韩国的差别正在此处。美国在某个城市有大型活动时,会让自动驾驶巴士载客并获取数据。自动驾驶车既行驶于老年社区道路,也行驶于像凤凰城那样干燥气候的道路,在各种情况下获取数据。这类数据汇集起来,就能搭建保险产品的框架。我国则称必须先有保险才能搞自动驾驶,连试验行驶也不允许。在这种环境下无法引入自动驾驶。

-就像自动驾驶缺了保险一样,已引入AI的领域似乎也有未能具备的部分。

△问题在于连把握本身都没有做到。我国在制造现场大量使用机器人。随着机器人加装传感器等,AI功能正一点点进入。但对于当前制造现场使用了多少AI、为了正确使用需要解决哪些问题等,完全没有把握。例如,机器人在作业中遇到人可以自行判断而停止,若进一步发展则可以绕行。只有知道AI机器人达到了哪个阶段,才能整备法律与制度。

-国外在法律与制度层面如何看待AI?

△全世界没有一个国家以实定法、即经议会通过的法律来规制AI。多为软法形式,比如政府或议会的宣言形式。美国有的是政府正在认真关注AI这一层面的宣言。虽不以实定法进行规制或由政府介入,但也不意味着完全交给市场机制。它在向市场传递一个信息:一旦判断需要政府介入就会介入。

-我们这边如何?

△Korea Communications Commission去年提出了以人为本提供服务等七项原则作为伦理规范,但总体来看,围绕这一议题的讨论事实上并不存在。

-法律与制度层面的规制是否应当加快?

△对AI而言数据最为重要。在NAVER集团搜索皮鞋图片,出来的大多是男士正装鞋。这是因为线上主要交易男士正装鞋,而AI学习了这些数据。这里隐含着女鞋由消费者在线下门店购买的前提。在人眼看来高跟鞋也是皮鞋,但AI没有用这类数据训练过。这一部分再往前一步,还可能引发男女歧视问题。反过来,在谷歌搜索皮鞋插画,这次则看不到男鞋,只出现高跟鞋。

-这不是还未到来的问题吗?有已经成为问题的案例吗?

△几年前美国法院曾在批准囚犯假释时使用AI。核心是是否再犯。AI分析的结果显示黑人再犯可能性更高。后来调查实际获得假释者的再犯情况,却发现白人更高。曾有争议称AI作出了错误判断,而法院接受了这一判断。

-为何会发生这种事?

△AI作出错误判断,是因为输入的数据被扭曲。美国的白人、尤其是男性图像很多。前年曾做过实验,测试人脸识别AI看美国议员照片能多准确地说出姓名。这一AI对白人男性议员几乎100%正确,而对黑人或女性议员则显示出很高的错误率。这是因为AI相对更多地接受了白人男性图像数据的训练。再想一想,也是因为美国议会议员的分布比例如此。

-人脸识别AI不是中国领先吗?

△美国国家标准与技术研究院(NIST)曾检验过100多种人脸识别AI的性能。调查结果显示,亚洲制造的AI对亚洲人的识别更好。如果韩国警方引进中国的人脸识别AI来抓捕犯人,长相与中国人相似的人被冤枉为犯人的可能性就会升高。这是不远的将来会成为现实的议题。

he is…

1967年出生于首尔。首尔大学经济学系毕业后,在美国哥伦比亚大学修完法学院课程,并获得经济学博士学位。曾在美国华尔街的律所工作,回到韩国后在国内大型律所任职。历经延世大学法科大学,现任首尔大学法学院教授。对大数据与人工智能以及个人信息保护等以数据为关键词的领域兴趣浓厚。最近正在研究人工智能给社会与经济带来何种变化。现担任韩国人工智能法学会会长、亚洲法与经济学会会长、首尔大学亚太法研究所所长、首尔大学人工智能政策倡议共同总监、首尔大学AI委员会委员等。/论说委员韩基石 hanks

阅读韩文原文