2024-11-24 | 서경IN

算法与消费者安全[金润明博士的AI浪潮]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

随着算法高度化,多种问题复合作用,因此消费者安全被凸显出来。通过操纵算法进行的歧视,或因过滤气泡而持续提供偏向性结果,可能导致排除多样性的意识偏向。

人工智能(AI)搜索与互联网搜索不同,它基于部分数据生成结果并提供,因此损害互联网或互联网搜索多样性的可能性也很大。原因被指向AI模型固有的局限,例如难以保证因数据偏差而产生结果的可信度等情形。此外,在训练算法或将其应用于服务的过程中,开发者等有意或无意介入的可能性也难以排除。

举例来说,NAVER集团、酷澎、Kakao Mobility Corp.等平台运营商的算法操纵,就是损害消费者安全的典型案例。安全不仅指免受物理性危害,还包括维持能够作出不脱离合理情境的决策的平静状态,以及个人隐私得到保护的状态。同时也包括消费者福利或权利不受侵害这一状态下的消费者安全。

因为由算法实施的不公平行为会直接或间接带来侵害消费者权利的结果。这也是需要就AI安全权展开讨论的理由。

我们基于服务或技术上市时应已进行安全性测试的信任,去使用或消费相关服务与产品。目前看来,对AI安全性的信任度并不高。在国会提出的15项AI相关法案基本蕴含的价值,是关于“可信AI”的规定。这也反证了对AI可信性存在问题意识。

尽管如此,却难以找到针对损害可信性行为的规定。AI安全不是监管。因为它是宪法保障的国民幸福追求权的一种类型,属于基本人权。信任始于服务提供者负责任的态度。虽然只是若干案例,但平台运营商有意的算法扭曲或操纵难以获得信任。

AI技术大幅提升消费者便利,但同时也提出了信任与安全的问题。特别是当AI以复杂算法运行时,消费者面临无法充分了解其运作方式的“黑箱”问题。

这会影响服务的可信性,而信任丧失可能导致消费者受损,因此为保护消费者,需要强化AI安全性与透明度的政策。当然,在使用AI过程中出现的各种法律与伦理问题的最终责任,可以根据对使用该服务的消费者影响程度的不同而有所区别。

在因算法而使权力天平向平台运营商重组的情况下,关于消费者主权的讨论必不可少。此前在AI相关讨论中,也与“消费者主权”相距甚远。在AI相关政策的制定过程中,消费者直接介入或提出意见的机会不足。不能不问:实际消费算法的消费者权利由谁来保护。

个体消费者的力量并不大。算法引发的问题是消费者自身难以解决的问题。这正是消费者团体应积极出面的理由。为实现算法公正,强化由消费者团体进行的监督,或制定“消费者权利宪章”也很有必要。如果我们这一代无法为AI安全打下基础,要保障下一代的安全将更加不易。

服务提供者宜积极理解消费者主权并据此制定服务政策。可以通过多种方式,建立AI服务使用体验的投诉受理系统以汇集消费者意见,并设立将其反映到算法改进中的程序。若无法确立完善的服务政策,就可能面临更大的监管,这一点也已通过“概率型道具标示制度”等诸多案例得到确认。

消费者安全权是以宪法上的幸福追求权为依据的派生性基本权。安全是国家的职责,不应忘记无论其原因或结果为何,国家都负有为作为国民的消费者的安全而行动的一系列职责。

为此,政府需要全面审视因算法而产生的各种问题,并就在这些问题损害消费者福利时如何救济消费者权利提出政策方向。在立法上,问题在于是纳入AI基本法体系内处理,还是通过整备现有的消费者基本法或信息通信相关法制等来具体化消费者权利。同时通过向企业提出明确标准,也可提高可预测性。就算法操纵的一系列事件而言,鉴于韩国公正交易委员会一直发挥了重要作用,韩国公正交易委员会较为合适,但也有必要考虑像欧盟AI办公室(AI office)那样设立独立的AI专门监管机构的方案。

为应对权力化的算法并守护安全,需要可持续的安全政策。近期“AI安全研究所”成立。研究所定位为政策研究机构,应是期待其作为在安全相关政策或法律制度层面构建我们社会安全网的智库发挥作用。算法威胁我们社会安全的因素是复合且多样的。需要建立与多个领域协作的治理体系。这只是一个想法:宜将AI安全的范围从物理性、机械性安全扩展到社会性安全,进而扩大为保障最终消费者即国民安全的治理体系。

不过,必须抛弃算法的问题要用算法解决这种浪漫想法。应牢记这是需要人类主动介入去解决的课题。

阅读韩文原文