2024-01-29 | 양철민 기자

美国顶级流行歌手遭“深度伪造”……“强化AI监管”呼声高涨

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

合成了流行歌手泰勒·斯威夫特面部照片的淫秽图像在网络上扩散,引发粉丝愤怒。相关图像被推断为由人工智能(AI)工具生成,有观点指出需要相应监管。

据《纽约时报》和美国有线电视新闻网(CNN)等29日(当地时间)报道,近期将斯威夫特的面部与性露骨姿势合成的深度伪造图像在社交媒体“X(原推特)”等平台扩散。深度伪造(Deepfake)是深度学习(Deep learning)与虚假(Fake)的合成词,指基于AI技术制作的虚假图像、音频、视频等。

发布该图像的社交媒体账号目前已被停用,但在删除前浏览量已超过4700万次。该图像的最初来源尚不明确,主要在X上被分享,部分出现在Instagram或Reddit等平台。

X在相关声明中表示:“我们正积极删除所有已确认的图像,并对发布该图像的账号采取了适当处置”,“我们正密切监控情况,以便一旦发现更多违规行为可立即处理”。

对此,X方面正采取应对措施,包括在得克萨斯州新设旨在打击儿童性剥削内容等非法内容的“信任与安全中心”。

美国政府也就此表示担忧。白宫发言人卡琳·让-皮埃尔在记者会上称该问题“非常令人担忧”,并表示:“我们认为,为防止真实存在的人物的私密图像和虚假信息在未经事先同意的情况下扩散,社交媒体企业在提供信息和执行规则方面负有重要作用。”她接着强调:“遗憾的是,这种(规则)执行的缺失对妇女和女童影响更大”,“正如去年发布行政命令那样,乔·拜登总统正努力降低生成式AI所产图像带来的风险,我们将继续采取措施,国会也应采取战略性立法行动”。

微软首席执行官(CEO)萨提亚·纳德拉也表态称“令人震惊且可怕”。微软是全球顶尖AI企业OpenAI营利法人的最大股东,近期引领AI创新,成为史上第二家市值突破3万亿美元的企业。此类AI滥用案例越多,对微软这样的AI大型科技公司的责任追问也势必越强烈。

纳德拉称:“(为对抗深度伪造)我们必须迅速行动、必须有所作为”,“应在技术周围设置安全装置,使更多安全内容得以产生,为此要做的事很多,而且已有相当进展”。他接着强调:“这关乎全球、关乎社会”,“特别是当法律、执法机构与技术平台携手时,能够监管的范围会大得多”。

围绕此次泰勒·斯威夫特深度伪造图像,要求加强监管的呼声正在上升。研究深度伪造的华盛顿大学计算机科学教授奥伦·埃齐奥尼表示:“互联网的阴暗暗流中一直存在各类色情内容”,“如今我们将看到AI生成的露骨图像的海啸”。目前美国50个州中有9个州施行法律,禁止在未经当事人同意的情况下利用AI模仿他人形象制作或分享深度伪造照片,但联邦政府层面尚无相关监管。

阅读韩文原文