有分析指出,恶意合成全球流行歌手泰勒·斯威夫特形象的"色情深度伪造"图片,最初源自有害网络社区4chan的成员把它当作一种"挑战"。即4chan用户在玩一种测试能否用人工智能(AI)生成知名女性的色情图片的游戏时,制作出了深度伪造(基于AI技术生成的虚假图像)内容。
据《纽约时报》5日(当地时间)报道,虚假信息研究公司Graphika在4chan上追踪斯威夫特深度伪造图片后得出了这一初步结论。4chan是美国一个网络社区,以传播仇恨言论、阴谋论以及利用AI生成的种族歧视和攻击性内容而声名不佳。
Graphika表示,该社区内出现了试图规避OpenAI的"DALL-E"、微软的"Microsoft Designer"和"Bing Image Creator"等图像生成AI所设安全机制的行为。
用户在论坛上被要求"分享寻找绕过过滤器新方法的技巧与诀窍",还被告知"祝你好运,发挥创造力"。随后便产生了斯威夫特出现的虚假图像。部分用户在论坛上受到称赞,还有人请求分享生成图像所用的指令语言。4chan目前没有禁止AI生成露骨性图像的规定。
斯威夫特的深度伪造图片于1月6日首次出现在4chan,11天后出现在Telegram,次日起通过X(原推特)扩散。为阻止图像扩散,X自27日起禁止在平台上搜索"泰勒·斯威夫特"或"泰勒·斯威夫特 AI",并删除了相关图像。姓名搜索限制措施已于29日解除。
Graphika首席研究员克里斯蒂娜·洛佩兹在声明中表示"斯威夫特并非唯一的受害者",并称4chan上存在以众多女演员、歌手、政界人士为对象的深度伪造图像。
去年,包含美国情报机构对韩国等盟国窃听活动等敏感内容的美国机密文件大量在网上流传时,4chan也曾被指为传播渠道。《纽约时报》指出,"由软件生成的虚假色情内容至少从2017年起就成为问题,令并不情愿的名人、政府人士、Twitch主播、学生等深受冲击",并指出由于监管松散,能获得法律救助的受害者寥寥无几,像斯威夫特那样拥有强大粉丝群体能够抵制虚假图像的人也很少见。






