随着信息通信(IT)和汽车行业接连出现人工智能(AI)的问题,AI怀疑论正在蔓延。在AI被引入日常生活乃至医疗技术的背景下,对AI的盲信可能威胁人类生命的危机感正在加大。
据美国西雅图地区电视台KILO 7 26日报道,美国俄勒冈州波特兰一户家庭中,内置亚马逊人工智能(AI)助手“Alexa”的智能音箱“Echo”录下了私人对话,并擅自发送给第三方。
自称丹妮埃尔的举报者对电视台表示:“家人之间的私人对话被Echo录下,并发送给了家人联系人名单中的公司同事。收到录音文件的同事联系我后,我才知道对话内容被泄露到外部。”
这意味着原本一句话就能控制供暖、照明、安防装置的Alexa,从助手沦为了窃听、黑客工具。深受冲击的丹妮埃尔切断了与Echo联动的所有设备电源。
丹妮埃尔向亚马逊确认后得知,此次事故是Alexa将部分对话内容误认为“发送消息”(Send message)指令而发生的。也就是说,这是无法分辨对话与指令导致的事故。亚马逊表示:“此类事件再次发生的可能性极低,但我们正在研究降低再发生可能性的方案。”
亚马逊称此次事件极为罕见,极力警惕争议扩大,但业界关注这是AI在日常生活中可能被滥用的案例。美国经济媒体CNBC强调:“亚马逊主张智能音箱只有在听到‘Alexa’这一特定词汇时才启动,但这些设备有可能听到私人对话。”
在争夺自动驾驶汽车商用化领先地位的汽车行业,AI也是争议焦点。今年3月在加利福尼亚州,特斯拉“Model X”在自动驾驶模式行驶中撞上道路隔离带的事故就是代表性案例。当时车辆驾驶员死亡。今年3月优步的自动驾驶汽车在菲尼克斯造成行人死亡事故,Waymo运营的自动驾驶迷你厢式车本月也在亚利桑那州卷入交通事故。英国《每日电讯报》指出:“英国著名科学家也警告自动驾驶汽车所使用AI的危险性”,“一旦脱离工程师之手在现实生活中使用,不知会发生什么。”
学术界也出现了警告AI误动作的研究结果。日本立命馆大学今年3月与国立基础生物学研究所共同研究后表示,AI可能像人眼一样产生错视现象。研究人员反复向AI展示螺旋桨旋转的画面后,AI在螺旋桨停止时也判断其在旋转。日本《每日新闻》就此次实验解释称:“这表明就像错视现象向大脑传递错误信息一样,AI也可能出错。”






