ChatGPT开发商OpenAI主张,应修改法律,将人工智能(AI)生成的图像也界定为儿童性剥削物(CSAM)。因为AI生成的照片并非拍摄真实人物的照片,犯罪者可能以此为借口逃避处罚。
OpenAI在8日(当地时间)发布的名为《生成式AI时代的儿童保护》的儿童安全蓝图文件中主张,“AI系统可能被滥用于生成合成CSAM或对现有图像进行数字篡改”。
同时提出,CSAM生成的未遂犯也应受到处罚。即使用户试图利用AI生成CSAM但被AI系统拦截,也应能以犯罪起诉,这样才能在非法材料被制作或传播前防止损害。OpenAI称,目前美国有45个州已完成法律修改,其余各州则没有此类规制,并要求在联邦层面修改法律。
在韩国,去年韩国大法院也曾判决,将儿童、青少年的面部与他人裸照合成的AI伪造视频(深度伪造)不属于《儿童青少年性保护法》规定的儿童性剥削物,引发争议。






