麻省理工学院(MIT)计算机科学与人工智能实验室(CSAIL)主任丹妮拉·鲁斯(前排左五)与韩国企业人工智能(AI)、自动驾驶汽车相关高管24日在首尔奖忠洞新罗酒店举行的“首尔论坛2017圆桌会议”开始前鼓掌。当天活动由成均馆大学教授李锡焕主持,并以午餐会形式进行,与会者就最新AI趋势和主要议题交换了看法。/权旭记者“假设道路左侧有一名儿童,右侧有一名老人在行走,而自动驾驶汽车已无法避免事故。人工智能(AI)该如何选择?结果固然重要,但本质在于必须能够向人解释所作决定的理由。”
美国麻省理工学院(MIT)计算机科学与人工智能实验室(CSAIL)主任丹妮拉·鲁斯24日在首尔奖忠洞新罗酒店举行的“首尔论坛2017”上,与韩国汽车、金融、信息通信(IT)等多个产业领域的17名专家共进圆桌午餐时,抛出了上述关于第四次工业革命时代伦理困境与技术发展方向的有趣话题。她把问题从“如何用算法实现AI的伦理判断”转换为“如何把人的人格延伸到机器上”。
此前韩国国内的讨论仅限于AI的选择应以何种方式决定。而鲁斯主任摆脱了这种二分法,主张“当我们开始使用机器人时,必须理解机器人如何做出决定,并且要开发出能够向人解释机器人决定的技术”。鲁斯主任的这一主张,为AI自主性程度提高时所面临的伦理困境提供了解决方向,因而意义重大。
鲁斯主任表示,“就像挑选汽车时挑选颜色一样,今后也将能够挑选汽车所具有的伦理偏好”,“如此一来,汽车就成为延伸使用者人格的工具”。她还就此补充说,“我们实验室已经在与丰田共同推进‘汽车必须能够解释(Car Can Explain)’项目”。对于自己抛出的伦理困境问题,她回答说,“应当发展让自动驾驶汽车通过传感器和网络事先掌握周边全部信息的技术,以及在感知到危险时自主让轮胎停止的‘防抱死制动’技术,从而使其不陷入那种境况”。
此外,她指出开发第四次工业革命服务时,不应力求一次性解决多项课题,而应开发能够完美处理一项课题的系统,这一点也颇为引人注目。鲁斯主任以AI围棋程序AlphaGo为例表示,“如果让AlphaGo下国际象棋,人会赢;如果AlphaGo下围棋时,把纵横19路的棋盘换成40路来比赛,人取胜的可能性就会提高”,“用深度学习训练AI时,不要期待在城市、森林、沙漠等所有环境下都得出相同结果,而应开发聚焦于某一领域的系统,这样可信度才会提高”。
AI与金融结合能否创造财富,也是当天午餐会的话题。新韩金融控股未来战略研究所所长林炳哲表示,“在美国和香港,有人用AI分析过去投资资产的走势,试图预测3小时后、1周后的股价”,并询问这种方式是否可行。鲁斯主任回答说,“如果能预测股价,我现在就不会坐在这里了”,引得全场大笑。她接着解释说,“股票与游戏完全不同,目前还没有能够捕捉股市中各种变量的程序”,“随着技术逐步发展,分析师也开始把握和分析风险,预计会一点点出现变化”。
Kakao集团 AI部门总负责人、副社长金炳学抛出了“机器人的未来”这一话题。鲁斯主任首先举例说,20年前施乐研究所的马克·维瑟预言计算机将普及时,外界曾认为那是“梦话”而不予理会。她接着强调,“今后20年将实现难以想象的发展”,“机器人会以多种方式渗透进我们社会并分担许多工作,因此必须思考如何与人协作”。
从汽车到围棋、金融、机器人等,谈论AI可应用的诸多领域时,给定的80分钟很快就过去了。与会者似乎因憧憬AI将带来的未来而忘记了时间。
鲁斯主任在结束对话时强调,最重要的是人们思维的灵活性。在技术演进与相互作用中,面对新时代不应怀有莫名的恐惧,而应接受现状、学习并适应。她在结束语中表示,“从各种提问中可以窥见韩国光明的未来”,“希望今后继续与韩国以及各位企业人士交流”。






