美国加利福尼亚州着手解决利用人工智能(AI)技术的深度伪造问题。
据美联社上月31日(当地时间)报道,加州议会近日通过了一系列规范AI深度伪造的法案。
提交给州长加文·纽森的法案全面禁止利用AI制作未成年人性剥削深度伪造内容。按现行法律,若深度伪造中的人物并非真实存在的人物则无法处罚,而新法案规定无论如何均可处罚。
若纽森州长签署,不仅制作者,传播者及持有者也将成为处罚对象。
州议会还在11月大选前加强了选举相关深度伪造的规范。规定自选举前120天起,向社交媒体(SNS)企业赋予规范深度伪造选举内容的义务,并允许选举当局或候选人对制作者提起损害赔偿诉讼。以讽刺为目的的深度伪造属例外。
此次法案考虑到与规定言论自由的美国宪法第一修正案发生冲突的可能性,制定过程十分慎重。此前,深度伪造性剥削物的制作即便以未成年人为对象也不违法,若深度伪造中的人物并非真实人物,则无法起诉和处罚。
但新法案弥补了这一漏洞,使更强力的规范成为可能。
谷歌和X等业界担忧侵害言论自由,持反对立场。他们主张过度规范可能妨碍技术创新。相反,据悉ChatGPT开发商OpenAI赞成强化社交媒体企业的AI内容管理义务。
纽森州长须在9月30日前决定是否签署法案。若签署,加州将成为美国首个引入针对AI深度伪造的综合性规范的州。此举是美国国内对已成为全球议题的深度伪造问题的首次正式应对,预计今后将影响其他州及联邦政府的相关政策。






