今年冬天雪格外频繁。人们说雪下得多,大麦就丰收。因为埋在雪里的麦苗可以躲避冬天的寒风。世界就是这样相对,有时甚至悖谬。人工智能(AI)也是如此。经历了“两次寒冬(AI winter)”的人工智能,如今比任何时候都更加活跃。人工智能在许多方面给人类带来益处,但也带来各种风险。走向仍属未知技术的人工智能之路是陌生的。
来看朝鲜时代高僧西山大师的诗《踏雪》。
“行走于白雪覆盖之路时,切勿随意杂乱而行。今日我踏过的这些足迹,将成为后人的路标。”
有人走过那条路,开辟了新路,但并不知道是否是正确的路。因此,第一个走路的人应当知道,自己的足迹会成为路标。
因为不知雪中有什么,所以无论何处都必须保障安全。唯有如此,才能在安全体之内尝试和探索不安全的东西。在不安全的状态下,任何尝试都难以进行。也就是说,这与如果没有表达自由,谁也难以充分展开自己的表达是类似的逻辑。
AI基本法成为话题的原因在于,它是一种共识:在不安定的政治环境中通过投射法律价值,使一贯的AI政策得以推行。AI基本法中反复出现的“可信性”与“AI伦理”,被理解为与我们的伦理不同的西方概念与文化的产物。在主观价值体系内讨论的伦理扩散至法律责任,是因为它与西方的功利主义伦理观相互咬合。
如此强调伦理的立法前所未有。在被认为最具科学性的AI基本法中,为何要无数次重复伦理与信赖这类主观、难以客观化的价值?因为相当多的内容难以用条文加以规范。
法律必须精致。也就是说,必须精巧而细密。如果本应捕鱼的渔网处于什么都捕不到的状态,就难以期待立法效果。当然,若连风都想捕捉,那就不再是法律了。因为难以遵守的法律毫无意义。法律应当像风能徐徐穿过的网。法律是人性的。AI基本法如此,其他产业法也一样。法律之所以介入,是因为其中有过着生活的人。
安全。它无论在心理上还是物理上都是重要的价值。可以把安全权理解为宪法上幸福追求权的派生权利。保障国民安全等同于国家存在的理由。AI正在发展,虽然因两用性(dual use)而受到规制,但难以脱离这一潮流。而且即便困难,也必须避免被这一潮流卷走。要对技术进行投资,同时要防止技术及其使用被滥用误用。安全状态并非无念无想,而是免受变化莫测的AI之害的安全。如果把安全标准定为技术性标准,那么就必须随技术发展不断思考依据。问题在于,若把连预测都无法做到的标准作为规制依据,法律安定性也可能受到损害。
法律还必须明确。应当依照明确性原则制定,使要做什么清晰无误。唯有如此,守法者才能预测立法目的。法律有时会成为规制,而规制之所以成为问题,是在难以预测的时候。规制高低的问题在其次。即便是高规制,只要按其高度应对即可,而看不见的规制则连应对本身都困难。
引领AI的企业足迹清晰,却杂乱纷飞。依据何种原则进行开发和服务并不明确。用连出处都难以说明的数据训练出的AI系统,往往原样复制出数据中包含的人类问题。从竞争者的服务中合成而来的数据也相当可观。这是严重的数据伦理问题。
就深度求索(deep seek)而言,干脆通过蒸馏利用ChatGPT生成的合成数据,取得了有利的起跑(headstart)。当然,看来它也具备基本的技术实力。中国的技术实力必然优于任何国家。这是因为有政府超越法律的支持。如果竞争不是依靠政府支持而是依市场逻辑展开,会怎样呢?或许习近平之后的中国会有很多变化。
AI基本法中包含了对人工智能技术与产业发展的政策思考。但让我们想一想,其他国家为何要把被称为规制的安全装置写入法律?大概因为AI虽是看不见的技术,但其波及影响难以估量。我们也规定了高影响AI的经营者义务,但并未设置特别的强制性规定。AI安全并非只在市场竞争中实现。制定政策的人应当知道,它源自国家的职责。
如今作为软件(SW)的AI正在演进为物理AI(physical AI)。机器人装载AI模型这一大脑四处行走的景象已不远。随着对AI和机器人的投资推进,对其给我们日常生活带来的影响与问题的关注也应当成比例增加。现在正是智能机器人法与AI基本法需要耦合的时候。
为此,部门间协作比什么都重要。回顾过去陈大济任部长时期,信息通信部的“IT839战略”曾将嵌入式软件与智能机器人培育为核心产业,值得反思借鉴。几乎所有领域都像零部件一样渗透着嵌入式软件。奇妙的是,如今这两个领域正作为产业部的主要项目在推进。
物理机器人的代表是汽车。汽车的软件研发比重早已超过50%。应当像欧盟那样,进行承认包括AI在内的软件产品责任的立法。对向消费者提供不安全产品、有缺陷产品坐视不管,是立法权的消极滥用。这正是产品责任法必须修改、使其在AI时代能够作为保障安全的法律正常运作的理由。
在今后的宪法修改中,有必要明确规定安全权。尽管已制定了大量有关安全的法律,但这对我们社会的安全仍是必不可少的。同时,与人工智能时代相称,将信息国家原理这样的统治理念写入宪法也将具有重大意义。宪法是最具政治性的法律。这既因为它是政治妥协的产物,也因为它完整地承载着一个国家的体系。






