2024-09-13 | 송주희 기자

AI企业“删除裸体图像”阻止性深度伪造扩散

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

微软(MS)和OpenAI等主要人工智能(AI)企业承诺,为防止有害的性深度伪造图像扩散,将从AI训练数据中删除裸体图像。

据美联社12日(当地时间)报道,在美国政府居间协调、白宫发布的承诺中,AI企业表示将“在适当情况下,依据(AI)模型的用途”自愿从AI训练数据集中删除裸体图像。同时还将引入其他安全措施,以防止有害的性深度伪造图像扩散。

此次承诺还有奥多比、Anthropic和Cohere参与。

美国政府正广泛开展运动,以阻止基于图像的儿童性虐待以及未经同意的成人深度伪造图像制作。

白宫科技政策办公室通过声明指出,此类图像以女性、儿童和性少数群体为目标而急剧增加,并表示“正成为迄今为止增长最快的AI有害使用案例之一”。

从公共网站收集数据的非营利组织Common Crawl也部分参与了此次承诺。Common Crawl是用于训练AI聊天机器人和图像生成器的核心数据库,其承诺今后将负责任地收集信息,广泛努力保护数据免于基于图像的性虐待。

当天,微软以及Meta、TikTok、Bumble、Discord、Match Group等通过另一份承诺,发布了一系列防止基于图像的性虐待的自愿原则。此举是为纪念美国《防止对妇女暴力法》制定30周年。

另一方面,美国政府当天与到访白宫的OpenAI首席执行官(CEO)萨姆·奥尔特曼、英伟达CEO黄仁勋以及微软、谷歌、亚马逊的技术负责人等达成一致,组建旨在促进美国国内数据中心开发的跨政府特别工作组(TF),并就相关基础设施投资与支援进行了讨论。

阅读韩文原文