《纽约时报》30日(当地时间)报道,俄罗斯、中国、伊朗、以色列曾利用OpenAI的生成式人工智能(AI)进行舆论战。
据《纽约时报》报道,OpenAI在报告中表示,“我们确认了5起试图将我们的AI(人工智能)模型用于互联网上‘欺骗性活动’(deceptive activity)的隐秘尝试”,并称“已将其阻止”。
社交媒体研究人员指出,OpenAI此次报告是首次披露其工具如何被滥用的案例。《纽约时报》称,尤其在全球多场重要选举进行之际,这引发了对该技术是否可能被滥用的疑问。
OpenAI解释称,“威胁行为者(threat actors)在过去3个月里使用我们的AI模型撰写简短评论和多种语言的长篇文章,并创建虚假社交媒体(SNS)账号”。
OpenAI表示,进行此类尝试的包括俄罗斯2家、中国和伊朗各1家,还包括一个以色列团体。
OpenAI主要调查员本·尼莫表示:“通过案例研究展示了当前仍在持续的一些活动”,“这些活动仍在为争取受众而出现”。
报告分析称,研究人员多年追踪的结果显示,这些虚假信息源自中国的垃圾邮件或俄罗斯信息战“Doppelganger”。OpenAI解释称,有人利用OpenAI的技术在X(原推特)上以英语、法语、德语、意大利语、波兰语撰写在乌克兰战争中支持俄罗斯的评论。
据OpenAI称,中国使用ChatGPT撰写中文、韩语、日语和英语的帖子,伊朗也用ChatGPT生成发布在网站上的文章。
OpenAI还解释称,中国去年下半年将有关福岛污染水排放的文章翻译成韩语以及英语、日语、中文、俄语,用于指责日本。
不过报告称,“生成式AI制作的虚假信息尚未达到人工智能专家所预测的那种具有说服力的水平”。虚假信息研究公司Graphika首席信息官杰克·斯塔布斯评估称,“我们所担忧的由AI引发的虚假信息扩散,目前尚未具体成形”。






