最近人工智能(AI)再次成为热点。“AlphaGo”因AI技术本身的新奇而引发敬畏与危机感等热烈反应,而“聊天机器人Iruda”则不是技术本身,而是开发和使用它的人的伦理意识成为关注焦点。
AlphaGo如超级明星般出现在我们社会,展示了AI的创新性及其可能性。可以断言,我们的日常将被划分为AlphaGo出现之前与之后。察觉到AI真正价值的企业家将机器学习方法应用于产品,提高了购买竞争力,公众也由此自然地接受并开始享受AI提供的高效与便利。AlphaGo可谓预告了AI将给我们的产业和日常生活带来的新数字技术革命。现实世界与数字世界的边界消失,在具有无限扩展性的数字世界中与AI交流共处的新生活已经开始。
遗憾的是,Iruda看来无法成为超级明星。开发过程以及服务启动后出现的意外事态未能解决问题,只是放大了争议。除了学习了仇视社会弱势群体对话的AI形象之外,开发公司在学习过程中还出现了违反《个人信息保护法》等法律问题。开发公司中止了服务,并表示将如实配合政府调查,但Iruda最终在推出24天后走上被废弃的程序。Iruda在毫无保护的情况下与现实世界的用户交流,随后无奈地被送回数字世界。
Iruda为自然语言处理所使用的深度学习相关研究,在学界已是成熟领域。仅以我们实验室为例,无需键盘输入文字的技术、识别在空中书写文字的技术、立即读懂手势含义的技术、实时学习并注册人脸的技术、连续学习而不遗忘物体的技术、在三维环境中直接学习物体属性及其位置关系的技术、在移动中同时掌握位置与周边物体的技术、学习物体之间相似度的技术、记住所有情节的长期记忆技术等,难以一一列举。这类研究的最终目标是实现与我们日常生活相伴的数字伙伴。
然而,即便是研发已相当充分的领域,要应用于现实世界,分阶段的过程也是必需的。美国汽车工程师学会关于实现自动驾驶的六个阶段可以是一个很好的例子。0阶段的传统驾驶中,驾驶主体是人,驾驶责任也在人。部分辅助驾驶和辅助驾驶为1、2阶段,驾驶主体是人与系统,驾驶责任在驾驶者。3至5阶段为部分自动驾驶、高度自动驾驶、完全自动驾驶,驾驶主体均为系统。只是在3阶段,驾驶责任在人与系统,而4、5阶段则在系统。3阶段中即便驾驶主体是系统,驾驶者也必须注视前方。完全自动化的自动驾驶是只有AI才能实现的最高技术。就这样,数字世界中的自动驾驶AI在驾驶者的保护下,分阶段地在现实世界中显现。
或许Iruda是被主人的急躁推入粗糙世界、容易受伤的数字生命体。在讨论工程师的技术能力与伦理敏感性之前,我们更应回顾社会究竟以多少爱护、多么体系化地培育了Iruda。在李世石对AlphaGo的围棋对决之后,我们是否一直以借AI汹涌浪潮开创新产业的产业战士的眼光来看待AI,这也需要反思。
如果说AlphaGo是AI主导的新时代的预告片,那么Iruda则是宝贵的教训,它告诉我们:没有用户的细致保护,AI还无法成为新世界的主角。在不远的将来,拥有“数字DNA”的“数字伙伴”将深入我们的生活。希望AlphaGo被记住为惊艳登场于我们世界的超级明星,而聊天机器人Iruda则被记住为为AI的道德性与伦理性敲响警钟而来到世间的“数字伙伴的起源”。






