在近来深度伪造问题成为全球性议题之际,美国加利福尼亚州议会通过了从根本上禁止制作含有儿童性剥削内容的深度伪造的法案。
据美联社等报道,当地时间上月31日,加州议会通过了一系列监管利用人工智能(AI)技术的深度伪造的法案。新法案的核心是禁止制作以AI对未成年人进行性剥削内容的深度伪造。现行法律并不将深度伪造性剥削物的制作视为违法。原因在于,根据规定言论自由的美国宪法第一修正案,现行法律体系下若对象并非真实存在的人物则无法处罚。但新法案规定,即使并非真实存在的人物,儿童性剥削类深度伪造也可予以处罚。
州议会同时强化了对选举相关深度伪造的监管。法案禁止制作与选举有关的深度伪造,并要求社交媒体企业自选举前120天起对使用深度伪造的选举内容进行管控。还为选举当局或候选人对制作深度伪造选举内容者提起诉讼并获得损害赔偿开辟了途径。
不过据悉,业界以过度限制言论自由为由,对法案持反对态度。ChatGPT开发商OpenAI据悉赞成强化社交媒体企业的AI内容管理义务。
另一方面,加州州长加文·纽森可在9月30日前签署法案或行使否决权。若纽森州长签署该法案,加州将成为美国首个对AI深度伪造引入全面监管的州。






