在美国,利用人工智能(AI)把照片中女性衣服"脱掉"的深度伪造应用程序(App)和网站如雨后春笋般涌现,人们日益担忧其被滥用的情形。
10日(当地时间),彭博社援引软件即服务企业Graphika的数据报道称,仅今年9月一个月,就有2400万人访问了使用AI脱衣的深度伪造网站。
深度伪造(deepfake)是深度学习与"fake"的合成词,是以人工智能为基础的人类图像合成技术,统指像电影CG处理那样合成已有人物面部或特定部位的影像编辑物。
此类应用和网站利用AI制作出照片中人物赤身裸体的图像,照片中的人物大多为女性。
彭博社指出,这些应用和网站加深了人们对近来AI技术发展可能被用于犯罪的担忧。即在当事人不知情的情况下,取用其发布在社交媒体上的照片制作淫秽内容并加以传播,可能引发严重的法律与伦理问题。
事实上,X上出现的一则广告宣称,用户可用AI制作他人的裸体图像并回传给该人,实为助长性骚扰。
另一款相关应用则向YouTube支付广告费用,搜索"nudify"(脱衣)一词时会最先显示。
个人信息保护专家担忧,随着AI技术进步,深度伪造软件的制作变得更容易、更有效。
数字权利倡导组织电子前线基金会网络安全总监伊娃·加尔佩林指出:"普通人对普通人实施这类行为的情况正在增多","这种事正发生在高中生、大学生之间"。
谷歌就此类问题表示:"我们不允许露骨的性内容","已对有问题的广告进行审查,并删除违反我们政策的广告"。
Reddit方面表示,禁止未经同意分享虚假淫秽内容,调查后已封禁多个域名;TikTok则表示已屏蔽"undress"(脱衣)关键词。






