2023-12-21 | 실리콘밸리=윤민혁 특파원

AI训练数据库中发现1000张儿童性虐待图像

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

在用于超大规模人工智能(AI)训练的数据库中发现了1000多张儿童性虐待图像。在恋童癖者利用AI量产儿童剥削图像之际,连训练资料也被确认“污染”,对AI风险的警惕进一步升温。

20日(当地时间),美国斯坦福大学互联网观察室表示,在图像数据库“LAION-5B”中发现了1008张儿童性虐待照片。LAION-5B是收录超过50亿张图像的AI训练用数据库,曾用于人气图像生成AI“Stable Diffusion”等的训练。斯坦福大学指出:“基于该数据训练的AI具有生成逼真儿童虐待内容的潜在可能。”

LAION-5B是德国非营利组织LAION于2022年公开的数据库。LAION方面称对非法内容持“零容忍原则”,已立即删除该数据库并正在确认安全性。Stable Diffusion方面也辩解称:“为将AI的问题行为最小化,已对数据库进行过滤后再训练。”

然而,要从已用该数据训练的AI中删除有问题的部分似乎存在局限。因为AI生成图像只需几张照片即可,而且连开发者都无法完全掌握生成式AI的内部运作结构。彭博社报道称:“Stable Diffusion 2.0是用经过过滤的资料训练的,但1.5版本仍在生成露骨的性图像”,“即使从AI中清除儿童性剥削图像,也可以将‘儿童’与‘性’两个概念结合,制造出非法图像”。

阅读韩文原文