2025-04-13 | 김성태 기자

AI智能体也有信息泄露副作用…需“断电开关”等安全装置 [AI助手吞噬所有产业]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

随着能够自主执行任务的人工智能(AI)智能体在企业业务和日常生活中影响力不断扩大,对其副作用的担忧也接连浮现。有观点指出,需要为技术高度化的同时社会将面临的问题做好准备。

据信息技术(IT)业界13日消息,AI智能体的使用越日常化,个人信息安全问题就越复杂。因为当用户将自己的日程、联系人、工作内容、电子邮件信息、金融信息等各种敏感信息交给AI智能体时,信息泄露的风险也随之加大。特别是当AI智能体遭到黑客攻击等,敏感的个人信息和企业机密可能外泄,造成巨大损失。被窃取的信息可能被用于诈骗等犯罪,甚至可能左右企业的命运。AI安全研究所所长、首尔女子大学信息保护学系教授金明柱表示:“由于AI智能体是行使高度权限的形态,遭受攻击时可能产生的损失规模也相当大”,“如果应用于银行等金融领域的AI智能体被黑客攻击,存在造成巨大资产损失的隐忧”。

AI智能体向用户提供错误信息或诱导非逻辑性决策的可能性也被提及。因为AI智能体是基于学习数据运作的。虚假信息的无节制扩散可能引发社会混乱。此外,分析认为,AI智能体的普及除技术层面外,还将在整个社会引发各种冲击。在担忧其可能取代就业岗位的同时,也有主张认为,人与人之间互动的减少可能使社会孤立或沟通断绝问题进一步加剧。

因此,要求政府同时制定技术扶持政策与制度性安全装置的呼声很高。即应尽快制定与智能体出现误操作时可能产生问题的责任归属等相关的法律与伦理标准。金教授表示:“为应对AI智能体的潜在风险,应在社会讨论的基础上制定系统性应对战略”,“还必须确保紧急情况发生时可以中止的‘终止开关’能够正常运作”。

阅读韩文原文