印度政府着手对利用人工智能(AI)合成特定人物图像的技术“深度伪造”进行监管。此举出台的背景是,纳伦德拉·莫迪总理本月17日在新德里与媒体人士会面时,对女演员拉什米卡·曼丹娜的深度伪造视频在社交媒体(SNS)上迅速扩散而引发问题表示了担忧。
据《印度斯坦时报》等当地媒体24日(当地时间)报道,印度信息通信部长阿什维尼·瓦伊什诺在前一天于首都新德里会见Meta、谷歌、YouTube、X(原推特)等社交媒体和科技企业相关人士后,在媒体吹风会上作出上述表示。
瓦伊什诺部长在本次吹风会上将深度伪造定义为“对民主的新威胁”,并强调“深度伪造削弱了对社会和机构的信任”。
他接着补充说,尽管如此,深度伪造内容通过社交媒体上传后仅几分钟便在毫无制约的情况下迅速扩散。
他表示,合成内容虽然也可能有有益用途,但滥用等会引发问题,并介绍说:“最近在中部中央邦议会选举期间,还流传过一段包含州首席部长说‘请投票给反对党’的深度伪造视频。”
他同时表示,社交媒体企业也认同监管深度伪造的必要性,并称将于近期推出检测深度伪造内容、预防上传及阻止扩散等监管方案。
瓦伊什诺部长补充说,为监管深度伪造,需要立法或修改现有规定。
此前,莫迪总理在本月22日主持二十国集团(G20)视频峰会时,也呼吁就深度伪造等AI滥用问题共同应对。






