让任何人都能感受到自己所处之地是安全的,维持这样的状态是国家的重要职责。物理安全的重要性自不必说,数字环境中的安全同样不可忽视。基于互联网的各种服务是维持日常生活的重要基础设施,正因如此,数字安全体系十分重要。
数字环境中的安全,已从作为隐私(privacy)的个人私生活保护,扩展到物理环境乃至社会领域的安全。
过去,个人生活及人身安全可以说是重要概念,但如今正向多个领域扩展。云计算环境就是代表。然而,云环境需要各种设施有机联动。其中任何一环出问题,服务本身就会“瘫痪”。曾有数据中心火灾事故导致数字服务中断。这也反证了接入变得便利的同时,管理也相应变得更加困难。
我国的安全体系拥有多种法律体系,包括面向物理安全的《灾难安全基本法》、面向软件安全的《软件振兴法》,以及应对网络上侵害事故的《信息通信网法》等。网络与软件相互融合,形成不可分割的关系。那么,作为通过网络提供软件服务的SaaS,云计算又如何呢?我国《软件振兴法》中的软件安全被定义为“在不存在来自外部侵害行为的状态下,对因软件内部误动作及安全功能不完备等可能引发的事故所导致的人的生命或身体危险,已具备充分防范的状态”。
软件安全是为管理软件自身,或与软件紧密结合实现的系统、平台等各种要素中所使用的软件可能引发的风险而设定的概念与目标。不过,由于软件质量意味着实现软件安全的功能性事项,因此质量若无法达到标准,也可能影响到安全。但从软件安全的定义可以看出,明确意味着来自外部入侵、即通过网络的侵害事故被排除在软件安全范围之外。然而,网络安全与软件安全很难视为彼此无关的两件事。
技术层面的安全尤为重要。AI正在进入日常生活。如果说软件只具有简单自动化的含义,那么AI已达到代替人进行决策或创作活动的水平。正因对结果的依赖度提高,必须制定能够保障AI内在安全的方案。
否则,它可能脱离人类的控制。目前的水平尚未到那种程度,但应考虑到技术发展正在快速推进。
AI安全也是实现有尊严生活的必要因素。通过AI生成的各种产物可能侵害他人权利,也存在AI判断失误或算法被操纵的情况。为了技术发展,应避免过度监管。因为若不对技术加以控制,其后果将由作为使用者的国民承担。
技术开发也可能出于善意。然而技术在使用过程中会掺入意图,并由此反映出歧视或偏向。当然,无意识形成的偏见可能是更大的问题,因为难以确认。这正是主张将AI作为黑箱加以监管的理由。作为对AI的监管方法,有时也会课以说明义务。可解释AI的开发亦是如此。目前已有多种方法被提出,用以打开作为大语言模型(LLM)的AI模型的黑箱。
AI的安全,AI自身的安全固然重要,但也必须审视在利用或使用AI的过程中对社会产生的影响。当AI在不安全的状况下运行时,应能够启用紧急按钮或将其关停。在曾生成种族歧视或性别歧视对话的聊天机器人Tay事件以及Iruda事件中,聊天机器人被关停。这是为阻止问题扩散而作出的决策。本应在开发时确保内部数据或系统不被外部输入的数据污染。正如这两起事件所示,问题不在AI,而在于利用它的使用者的恶意行为。并非AI在制造问题,而是人在制造问题。
AI已是日常。然而AI要走的路依然漫长。在这一过程中我们应作何选择,实在令人费思量。明确的一点是,技术将造福人类,但为了安全,必须对技术加以控制。为此,AI技术的安全性、服务的公正性、服务提供者的可信性、使用者的伦理性、政策的一致性都是必要条件。唯有如此,AI安全才能得到保障。
欧盟AI法案的拼图终于拼合完成,如今只剩实施。这表明对AI的监管正从以伦理为中心转向以法律为中心。AI立法也应把重点放在AI技术的安全使用上。不过,应当是对存在问题的商业模式(BM)的监管,而非对技术的监管。最重要的是,监管必须明确且可预测。






