关于人工智能(AI)的话题随处可闻。政府和产业界宣称要把韩国建设成AI三大强国,准备倾注能源、资金和人才。企业和教育现场也急于引入,称要提升效率与创造力。AI分析海量数据、学习模式,辅助人类决策。它显然有助于解决疾病、灾难、犯罪等诸多社会问题。同时,大规模失业、被强化的网络战争、人类对AI失控等担忧也不少。
研究民主主义的人们关注AI将带来的民主倒退。AI能更轻易地把虚假操纵信息做得像真事一样,并更快扩散,这一点如今已广为人知。公民也已被教育,对每逢选举便流传的深度伪造视频抱有警惕。但更重要的问题在于,超越舆论操纵,AI可能直接扭曲直接民主的机制。AI已成为一件廉价武器:让政治行为者轻松制作内容、利用大数据高效动员支持者、以貌似合理的叙事协助政治说服。任何人都能借助AI制定法案或政策,由AI编造的社会运动也可能伪装成真正公民的草根运动。原本用以补充精英主导的代议制民主的直接民主,却因装上AI而失去公民参与的正当性。
以往的直接民主机制,是通过街头签名活动、通过政府或国会网站参与、听证会、条例制定与修改的公民提案等制度性装置实现的。而且在此过程中,公民得以与有组织的倡导团体或专家合作,经历某种过滤与审议过程。然而AI在中间把这一切物理性、制度性机制都推倒了。就某一特定议题,某个行为者只要向AI下单,要求起草一部力推自己认为正确的想法的法案,AI便会翻查相关法令、规制、现场案例,转眼间做出一部法案。这一生成阶段的风险,不在于假内容,而在于偏向性内容,因为AI只挑选符合使用者期望方向的数据。
在东远集团阶段,AI能够比以往的数字方式更为细致地筛选出可能友好的对象,将其吸纳为支持者或志愿者。因为AI可以搜集大量个人的人口统计背景、消费倾向、政治倾向等数据。对于这样选定的目标,AI可以把编造的案例或话题、虚假视频与真实内容混杂在一起加以散布。被锁定的个人被合成内容说服,数量膨胀到一定规模后,便能以国民舆论的名义要求政府或国会作出正式决策。一旦这种局面到来,能够听取多元意见的公共论坛实际上就崩塌了,AI平台会雨后春笋般涌现,使公民社会碎片化。
不能因为出现这些风险就阻止AI引入民主程序。因此讨论应集中于如何在法律与制度上完善安全装置。技术层面已提出的方案包括:在AI生成物上加水印以唤起人们注意;若属利用AI的决策,则设置时滞以留出审议时间;建立具有公信力的AI公共论坛并加以利用;对制作或散布操纵舆论的AI内容者课以罚款或其他制裁等。政治极化越严重的社会,AI被滥用的可能性越大,因此必须先行着手完善制度。
“FRAMEWORK ACT ON THE DEVELOPMENT OF ARTIFICIAL INTELLIGENCE AND THE CREATION OF A FOUNDATION FOR TRUST”已于1月22日起施行。政府去年12月发布了“韩国人工智能行动计划”,正在广泛征求各界意见。全国范围AI基础大转型的政策支柱设定为产业、公共、地区、文化、国防等五项。公共政策领域虽写入了安全、信赖、包容等词汇,但从民主主义角度看,对AI基础社会的风险管理仍显不足。现在正是应汇聚智慧、制定服务于民主主义的AI治理对策之时。






