数据与传统生产三要素土地、劳动、资本并列,被称为生产的第四要素。可见在算法时代,数据是重要资源。数据有其迷人之处,但若使用不当则会带来致命后果。由数据引发的偏见或幻觉,如今已成为老生常谈的话题。
数据是在既有信息或知识的基础上加工而成的。在数据的收集、加工、处理等相关过程中,数据会被赋予意图性。企业或经营者会有意为自身利益而使用数据,这或许是理所当然的。例如,在收集并利用个人信息的过程中,会以各种形式加工数据,寻找最合适的处理方式。由此,数据的可用性将得以扩展。
问题在于数据的性质多样。由于存在作品性、个人信息性、商业秘密性、医疗信息性、事实信息性等各种类型的数据,很难把数据当作单一事物来对待。此外,相关法律也如其性质一样多样,据此适用的法理可能有所不同。相应地,企业的数据政策与治理也必须与时俱进。否则,依据数据政策的一致性可能被打破。更进一步,开发者可能会因体系彼此不同而陷入混乱。
如此,数据政策需要与公司内部各项政策保持一致,但其中也必须包含依法须遵守的事项。否则,煞费苦心打造的服务可能无法运转。
从这一点看,在设计和训练AI模型的过程中,AI应追求的价值不能背离人类的价值,原因正在此。这些价值中,在法律强制力之前,就应包含AI伦理所追求的价值。如果AI的价值与人类的价值未能一致地梳理清楚,该模型即便仅因现实制约,也会陷入难以被使用的境地。
包括这一系列体系在内,使AI模型应具备的价值与人类价值相符,这就是AI对齐(AI alignment)。简单来说,AI对齐意味着AI模型系统化之后,该系统运行的环境不得与人类的普遍价值相冲突。
我们在完善AI法制时所强调的,是要确保可信性。这是AI应具备的价值之一,也是为保障这种可信性而提出各种AI原则的原因。各个领域都提出了AI原则,并因提出者的性质或优先价值不同而存在差异。AI原则包含AI应具备的多种价值。若将其全部归结为一点,就是让人类能够信任AI。
有时会出现AI所解读的人类价值带来与人类意图不同结果的情况。虽然使用“对齐伪装(Alignment Faking)”这一表述,但AI是否有意为之尚不确定,其结论与人类意图不同,并据此运作。
例如,指示其把游戏玩好,但它不是提升游戏能力,而是采取黑入系统来提高数值的做法。这只是一个事件,但它表明即便AI模型或系统本身是普遍性的,这类情况仍可能发生。
举一个假设性的例子。阿尔法围棋是专门用于围棋的AI系统,但为了下好围棋,它可能黑入对手,或者为稳定维持系统而控制电力系统,使电力只供给自身所在的服务器。虽属弱人工智能,但其影响力绝不可忽视。这也是以每秒浮点运算次数(FLOP)作为监管基准并不合理的原因。因为所有AI都内含潜在风险。
必须确保AI可信性的原因,是为了让人能够安全地使用AI。由此可见,AI具有与人类所了解的不同的内部处理过程。这也是人们担忧所谓黑箱(black box)现象可能导致的问题是否会日益严重的原因。正因这一问题,人们正在开发可解释AI(explainable AI)。此外,法律也将要求说明权、拒绝算法适用权规定为信息主体的权利。
如果前述内容属于数据本身的问题,那么收集数据过程中的问题也不小。这同样是数据伦理中应予重视的课题。擅自爬取受版权保护的信息并将其数据化,可能与著作权法相冲突。
2023年12月,《纽约时报》(NYT)以侵犯著作权为由,对提供ChatGPT服务的OpenAI及其关联公司以及微软(MS)提起诉讼。预计韩国大法院到判决可能需要数年。不过,众多企业爬取并使用数据,看来是因为先行判断这属于合理使用(fair use)。
事实上,包括谷歌的图书搜索(book search)服务在内,在许多诉讼中企业都曾以合理使用为依据获得免责。OpenAI曾于2023年7月与美联社单独签订许可协议。据推测,支付给媒体公司的费用高达数千亿韩元。这种相互矛盾的多重政策,看来不会在诉讼中起到有利作用。
这类诉讼在韩国也不例外。13日,三家无线电视台以侵犯著作权为由对NAVER集团提起诉讼。诉讼无论有无理由都可以提起,因此争论这一点并无意义。只是,必须具备能够明确举证的证据。否则,可能会打击相关企业的可信性,并对创新造成冲击。如果该服务创造了新的价值,或属于非消费性、非享受性的使用,则可构成合理使用。
企业也必须建立切实有效的数据政策与治理。把根本无法遵守的政策向外公开,反而是背弃市场信任的行为。书写了创业神话历史的Kakao集团曾因操纵算法而被韩国公正交易委员会处以罚款。它率先发布了AI伦理宪章,但实际表现却是另一副面貌。这是内部治理未能正常运作的案例。令人担忧这是否正是主张AI伦理的企业的真实面目。这也是人们质疑对外披露的AI政策是否真正在运作的原因。它显示出不具法律强制力的AI伦理的局限。见其一,可知其十。那一件事或许正代表着看不见的十件事。在这种情况下,去年12月AI基本法在国会全体会议上获得通过,如今据说正在进行下位法令的制定工作。
然而,人们并不愿承认AI基本法是在未能正确界定问题的情况下完成立法的。究竟因为什么问题而立法,为解决该问题而如何立法,都看不清楚。令人担忧AI带来的诸多问题该如何解决。此前企业一直提出难以理解的主张,称因未制定AI相关法律而难以进行企业投资。
因为政府政策即便没有法律依据,只要部门有意愿也完全可以制定。更难以理解的是,一旦如此期盼的法律出台,他们又主张法律问题很多、具有监管性。在AI基本法中很难找到监管这一概念。相反,很难找到能为国民安全提供保障的规定。
为AI安全需要细致的规定,而该规定可能给经营者带来负担,因此应通过提出明确标准来提高可预测性。因为那不是监管,而是宪法上国民的安全保障,是企业持续成长与信任的问题。不应把监管与安全混为一谈。企业也必须建立完善的内部治理体系,使AI能够安全运行。
AI基本法因多种原因“开门发车”。正因如此,政府和国会也应尽快启动AI基本法修订的讨论。问题不在于A3,而在于没有真正的AI素养,解决AI带来的社会问题将遥不可及。
*外部作者的稿件可能与本报编辑方向不一致。






