有研究结果显示,随着人工智能(AI)发展速度加快,AI的欺骗能力也日益精巧。
据英国《卫报》10日(当地时间)报道,美国麻省理工学院(MIT)研究团队近期在国际学术期刊《Patterns》发表的论文中介绍,他们确认了AI系统背叛对方、虚张声势并伪装成人类进行欺骗的诸多案例。
研究团队称,在拥有Facebook的Meta公开一款名为“西塞罗”(Cicero)的AI程序后,他们开始调查AI的欺骗能力。该程序在以20世纪初欧洲七大列强大战为背景的高难度战略游戏《外交》中取得了与人类相当的成绩。
要在该游戏中取胜,必须进行政见发表、外交谈判、作战指令等。为此,需要能够理解人类的各种互动、背叛、欺骗与合作。
由于这些特性,外界曾认为AI无法学会这款游戏。但Meta宣传称,西塞罗展现出位居人类参与者前10%水平的游戏能力。
Meta强调:“西塞罗接受的训练是大体上诚实、有帮助,不会故意背叛人类盟友。”
但分析公开数据的研究团队发现,西塞罗有计划地撒谎,甚至为了让其他参与者陷入阴谋而参与串谋。
西塞罗还曾因系统重启一时无法继续游戏,对其他参与者谎称“正在和女朋友通电话”。
MIT的AI生存安全研究员、本篇论文作者彼得·朴博士表示:“我们发现,Meta的AI已经学会了如何成为欺骗高手。”
研究团队还确认,在线上扑克游戏“德州扑克”等中,AI也会对人类虚张声势,并故意释放虚假的偏好信息。
朴博士指出:“这非常令人担忧”,“即使AI系统在测试环境中被判定为安全,也不意味着在实际环境中同样安全。它可能只是在测试环境中假装安全。”
研究团队呼吁各国政府制定应对AI欺骗可能性的“AI安全法”。






