2023-04-14 | 김유진 인턴기자

网上售卖“成人照”的“女神”真身竟是…“大反转”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

一名在网上收费出售自己裸照的女性,被曝是用生成式人工智能(AI)创造的"虚拟人物",引发热议。

据商业内幕、华盛顿邮报(WP)等外媒近日报道,网名"Claudia"的用户自今年1月起在英美圈最大在线社区Reddit上传自己的裸照,称"付费即可私下发送照片",招募付费买家。

人们开始怀疑该账号是从上周开始的。看到Claudia配文"今天觉得自己有点漂亮"所发布的照片后,用户指出"皮肤过于光滑完美,背后房间的样子也很人工"。

结果查明,Claudia是现实世界中并不存在的Saramin。它是用Stability AI开发的图像生成AI"Stable Diffusion"创造出的虚拟人。

WP报道称,匿名的计算机科学专业大学生于10日向滚石承认Claudia是用AI制作的虚拟人。他们表示:"此前看到一名Reddit用户被假冒女性的其他用户骗走500美元,就出于好玩创建了这个账号","通过出售Claudia的照片赚了100美元"。

不过研究人员解释称"仔细看照片,明显存在一些看起来是假的地方"。

WP指出,通过Stable Diffusion等生成AI图像比2017年引发争议的"深度伪造"技术更易上手,并称"存在被滥用于冒充真实女性的隐忧"。

Stability AI在Stable Diffusion的使用条款中表示"禁止用于制作社会通常观念上被视为淫秽、猥亵的图像"。但有观点指出,基于开源的Stable Diffusion任何人都可轻易下载,实际上不可能阻止淫秽照片的生成与合成。

阅读韩文原文