合成流行歌手泰勒·斯威夫特面部照片的淫秽深度伪造图像(基于AI技术制作的虚假图像、音频、视频)在网上扩散,令热爱她的粉丝极为愤怒。
据《纽约时报》和CNN等26日(当地时间)报道,近期将斯威夫特面部与性露骨姿势合成的深度伪造图像在社交媒体X(原推特)等平台上扩散。
目前发布该图像的社交媒体账号已被停用,相关内容难以找到。《纽约时报》称,相关帖文在被删除前浏览量高达4700万次。
该图像的最初来源不明,主要在X上被分享,部分也出现在Instagram、Reddit等平台。
X发表声明称:“我们正积极删除所有已确认的图像,并对发布该图像的账号采取了适当措施”,“我们正密切监控情况,以便发现进一步违规行为时立即处理”。
但斯威夫特的粉丝对一度放任该图像传播的X感到愤怒,纷纷发出抗议。
他们还发布“保护泰勒·斯威夫特”的语句并附上相关关键词,阻止图像通过搜索扩散。
专门从事AI检测的网络安全公司Reality Defender创始人本·科尔曼向《纽约时报》表示:“我们有90%的确信度认为斯威夫特的深度伪造图像是使用AI模型生成的。”
研究深度伪造的华盛顿大学计算机科学教授奥伦·埃齐奥尼表示:“互联网的黑暗暗流中一直存在各种色情内容”,“现在我们将会看到AI生成的露骨图像的海啸”。
以斯威夫特的深度伪造图像为契机,要求对利用AI生成虚假图像实施强力监管的舆论正日益高涨。
目前美国有9个州施行法律,禁止未经当事人同意制作或分享利用AI模仿他人形象合成的深度伪造照片。
但联邦政府层面尚无相关监管。
去年提出将分享深度伪造图像定为联邦罪行的法案的民主党众议员乔·莫雷尔(纽约州)就与斯威夫特有关的虚假图像扩散在社交媒体上写道“令人震惊”,“这样的事每天都在各地发生在女性身上”。
参议院情报委员会主席、民主党议员马克·华纳也表示:“我们一再警告AI可能被用于生成未经同意的私密图像”,“这是令人痛惜的状况”。
近期与美国总统选举相关,在新罕布什尔州初选前一天,含有鼓动民主党党员拒绝投票的拜登总统虚假声音的电话扩散,也曾引发问题。
白宫发言人卡琳·让-皮埃尔当天在记者会上就斯威夫特深度伪造图像的扩散表示“非常令人担忧”,“我们认为,为防止真实存在的人的私密图像和虚假信息在未经事先同意的情况下扩散,社交媒体企业在提供信息和执行规则方面负有重要作用”。
她接着表示:“遗憾的是,这种(规则)执行的缺失对妇女和女童影响更大”,“正如去年发布行政命令那样,拜登总统正努力降低生成式AI产生的图像带来的风险。我们将继续采取措施,国会也应采取战略性立法行动”。






