面对以假医生、假药师为幌子、迷惑老年群体等信息弱势人群的人工智能(AI)虚假、夸大广告日益猖獗,政府出手了。今后如通过传播AI虚假广告扰乱市场秩序,将引入惩罚性损害赔偿制度,最高须按实际损失额的5倍进行赔偿。此外,与消费者生命直接相关的事项,即便主管部门审议尚未结束,也将在平台上立即被屏蔽。
政府10日在首尔政府大楼举行的国家政策调整会议上,最终确定并公布了包含上述内容的相关部门联合《利用AI等扰乱市场秩序的虚假、夸大广告应对方案》。当天参与联合对策发布的有国务调整室、食药处、广播媒体通信委员会、韩国公正交易委员会等。国务总理金民锡强调:“将通过本次对策把新技术的副作用降至最低,同时确立与AI时代相称的市场秩序。”
政府之所以推出全政府层面的应对措施,是判断近来以视频平台和社交网络服务(SNS)为中心,滥用AI深度伪造技术的广告泛滥,正威胁国民的生命与财产。特别是在食品、医药品领域,冒充医生、药师等权威专家的AI虚拟人出面宣传未经验证功效的案例急剧增加。实际案例中,有AI生成的假皮肤科专科医生出镜宣称一周内黄褐斑彻底消失,也有把普通食品谎称能使体脂减少83.7%、当作药品欺骗销售的情形被查处。甚至出现篡改知名电视台新闻画面来宣传网络赌博网站的胆大行为。
例如,自称某知名大学牙科专科医生的宋某出镜宣传称“牙齿松动,不用去牙科。只要用这个就能牢牢固定”,并推荐口腔益生菌,但查明这些人均非真实存在的人物,即是用AI深度伪造技术精细制作出的假医生。
为此,政府首先决定大幅提高屏蔽速度以防止损害扩散。此前须经广播媒体通信审议委员会审议后才作出屏蔽决定,耗时相当长,期间损害如雪球般扩大。为改善这一状况,在国民生命、财产受损隐忧较大、需紧急处置的情形下,新设程序允许广播媒体通信委员会在广播媒体通信审议委员会完成审议前,直接向平台经营者提出紧急整改要求。
即相关部门向广播媒体通信委员会提出要求后,由其命令平台企业临时屏蔽,之后再根据审议委员会的结果决定是否最终屏蔽。其宗旨是先撤下有害广告,再追究是否违法。与此同时,广播媒体通信委员会与审议委员会决定将食品医药品、化妆品、医疗器械等虚假广告频发的领域追加为书面审议对象。如此一来,预计在提出审议请求后24小时内即可迅速作出屏蔽决定。
一直被诟病为“轻罚”的制裁手段也将大幅强化。政府将通过修改《信息通信网法》,引入惩罚性损害赔偿制度,对传播虚假、篡改信息致他人损害者,最高按损失额的5倍赔偿。《标示广告法》上的罚款金额水平也将大幅上调,使违法广告的处罚成本远高于其收益。
法律模糊之处也将予以消除。现行法律下,AI虚拟人冒充医生推荐产品的处罚规定较为模糊,政府决定将其明确界定为不当广告,明确其违法性。即在法令中明确规定,AI制作的假医生的推荐行为本身就是欺骗消费者的违法行为。
在事前预防层面,AI生成物标示制将被强制实施。在网络平台上传由AI制作的内容时,必须标明为AI生成物。为此,政府计划在明年一季度前修改《信息通信网法》,并对平台经营者赋予管理义务。用户擅自去除或损毁AI标示标签的行为也被禁止,违反者将被处以罚款。
政府相关人士表示:“AI技术的发展被滥用,导致老年群体等弱势人群的损失扩大”,“将加快法律修订与系统改进,在明年上半年前建成强有力的应对体系。”






