“如今已进入不是人、而是人工智能(AI)实施黑客攻击、AI进行防御的时代。所有安全体系都必须在‘AI是主体’这一前提下重新审视。”
随着AI高度化,安全威胁空前上升,个人信息保护体系同样面临根本性转型的要求。这正是处于个人信息保护最前线的韩国个人信息保护委员会委员长宋京姬把重点放在向以AI为中心的应对体系转型上的原因。迄今为止,安全体系都是在人攻击、人防御的前提下,按照人所能达到的速度来设计的。但宋委员长判断,随着攻击与防御的主体从人转向AI,网络安全的“游戏规则”正在改变。在震动全球安全业界的Anthropic最新AI模型“mythos”这类高度化AI智能体风险不断扩大的情况下,有必要对既有安全体系进行全面重新设计。
宋委员长27日在接受Seoul Economic Daily采访时指出:“AI正以远超预期的速度发展,但安全与监管尚未做好充分准备。”
这意味着,在智能体AI朝着自行设定目标、与外部系统联动执行任务的形态发展的情况下,仅靠既有的以人为中心的管控方式,已难以有效管理安全威胁。在这种情况下,还可能出现信息主体难以充分认知个人信息处理过程,或难以控制自身信息处理范围和影响的局面。宋委员长强调:“在数百个AI智能体同时运行的环境中,速度和规模本身将与以往以人为中心的情形完全不在一个维度”,“物理AI等也已出现,需要与快速变化的环境相适应的系统性方法。”
不过,对于近来因黑客攻击等导致个人信息泄露增加,部分方面提出的“缺乏指挥塔”问题,她表示应优先基于问题本质制定应对战略,而非单纯的机构改组。去年从通信三社到乐天信用卡、酷澎,连续遭遇黑客攻击引发大规模个人信息泄露事件,分散于韩国科学技术情报通信部、National Intelligence Service和个人信息保护委员会的现行安全应对体系的分散结构被指存在局限,设立指挥塔的必要性随之被提出。对此,宋委员长态度谨慎:“出现问题时最容易被提出的解法就是指挥塔,但要考量它是否是本质性的解决方案。”
她强调,当务之急是在保持各部门专业性的同时强化部门间协作体系。设立单一指挥塔的方式可能有效,但在快速演进的安全环境中,稍有不慎就可能丧失各部门的特化能力。宋委员长指出:“在部门间分工的同时发挥各自专业性、强化协作体系可能更有效”,“核心不是简单的机构改组,而是如何真正强化应对能力。”她解释称,在网络攻击与防御的主体由人转为AI的时期,各部门集中于自己最擅长的领域,并将其有机连接的协作体系比什么都重要。她补充说:“尤其安全是国家层面需要培育战略能力的领域,因此像美国这样引领AI技术的国家不会把安全相关技术解决方案开放给全世界自由使用”,“今后安全作为一个国家的战略技术价值将进一步提升,现在正是我们要以最高效的方式增强实力的时候。”
此外,个人信息保护的监管范式也须随时代变化而转型,这是宋委员长上任以来一贯强调的方向。在AI技术加速发展、个人信息控制权被担忧削弱的背景下,她认为事故发生后再予制裁的“事后制裁”应对存在局限。宋委员长解释事前预防政策转型的背景时说:“目前国内企业在安全与个人信息保护上的投资占比约为6%左右,不到美国(13%以上)等领先国家的一半”,“基础设施属世界最高水平,但安全相对薄弱。”
为此,宋委员长正积极推进相关政策,推动监管范式转向防患于未然的“事前预防”。她表示,建立起事前保护体系后,不仅黑客攻击难以实施,即便发生也能迅速发现并应对,从而减少损失。为此,今年初扩大了须适用强化安全措施的集中管理系统的公共机构适用范围,并对主要公共系统开展紧急实态检查。今后计划以平台、区块链等个人信息集中的前沿领域为中心扩大实态检查。此前,个人信息保护委员会还新设了以专责个人信息事故预防职能的预防调整审议官为中心的事前实态检查科。其目的是,相较于以处罚为重心的事后制裁,让存在不足之处得以改善,并通过咨询支持等方式帮助在事前预防方面存在困难的中小工商业者建立准备体系。
在事前预防之外,为强化个人信息保护,制裁手段也大幅加强。个人信息保护委员会完善制度,对认定为故意或重大过失的情形,最高可按全部销售额的10%课征罚款。同时明确最高经营者(CEO)责任,将个人信息保护提升为经营核心议题。她说:“这可能对企业构成相当大的打击”,“如今个人信息保护不应视为单纯监管,而应视为经营核心风险管理要素。”
不过,她认为事后制裁方式的“罚款”并非解决个人信息泄露状况的唯一办法,因此决定对积极开展事前预防的企业给予更强激励。她解释称,已明确法律依据,使企业在已进行大量事前预防投资却因黑客攻击等外部攻击发生个人信息泄露事故时,可获得必要的减轻。
宋委员长表示:“企业需要转变认识,把个人信息保护投资视为确保客户信任、扩大企业利益的‘前瞻性投资’,而非‘成本’”,“为引导企业进行实质性的预防投资,将引入对个人信息保护投资企业的罚款义务减轻制度,计划今年实施。”
最后,宋委员长还呼吁企业和国民关注个人信息在何处、以何种方式被收集和使用。她强调,只有把个人信息保护视为创新的起点而非监管,才能实现可持续的AI创新和基于信任的数据利用。
她说:“AI时代既是技术竞争也是信任竞争,国民若不信任AI,创新就无法持续”,“只有确信自己的个人信息被安全、透明地使用,才可能提供数据。”她接着表示:“今后安全与个人信息保护将不只是政策领域,而会成为国家竞争力的核心要素”,“为此,个人信息保护委员会将在推进国际合作的同时,实施强化本国能力的战略。”






