2025-10-20 | 여론독자부

[白象论坛] AI制造AI的时代

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

人工智能(AI)已越过替代高端业务的阶段,如今进入AI自行设计并改进AI的局面。过去由人完成的数据收集与清洗、标注、算法选择、结果评估与修正被整合为一条自动化流水线,自我改进战略开始实质运转。这一战略的起点是数据与反馈。一个模型自动生成问题与答案以扩充学习资料,另一个评估模型对其进行审查和评分,过滤质量。

在此之上,基于载有原则的规则集的宪法式反馈层层运作,模型不断重复自我批评与修正的循环。人不必对细枝末节的例外规则逐一介入。只要明确边界与原则、安全、准确性、成本等目标,机器便自主循环地学习和改进。这意味着从过去“人教、机器跟”的方式,转变为“人定义原则与责任,机器自行重复学习与改进”。

这一变化的核心可以说不是模型的大小,而是流程的改进。过去是把更大的模型跑得更猛来决定性能,如今则是自行找出更优流程的能力决定性能与效率。模型通过自动流程把难度从容易的任务调整到困难的任务,并根据问题结构组合检索与规划、代码执行与外部工具调用来执行。它还会用自然语言分析失败原因,自行列出应当禁止的策略清单,并在下一次尝试中予以排除。

那么人的角色是什么?重复性强、规则明确的工作会迅速自动化,但人的工作不会减少,而是变得更高阶、略为抽象。开发者将承担把需求形式化、明确约束条件,并对AI产出的准确性、安全性、许可与安全进行监督和保证的角色。

教授、研究者、记者、行政人员也不例外。数据收集与整理、起草文稿、制作讲义等大多由AI完成,人则解读整体脉络、明确目标,并进行伦理判断与利益协调。尤其想说的是,相当于批评者和责任人的角色不应由AI替代。解读错误的含义、评估风险、分配社会责任,必须由人来做。

这个时代所要求的技术与治理能力也已明确。首先是数据治理。不侵犯个人信息、著作权与敏感信息的收集与清洗规范,以及访问控制和删除、修正请求权的保障,应成为基本。其次是自动评估的设计。在基于规则的评估和统计指标之外,还须结合事实性、安全、偏见等属性测试与因果反证测试,以减少假阳性与假阴性。

设定安全边界同样必不可少。应制定所谓红队标准,事先验证有害内容、绕过安全机制与被操纵的可能性。数据、代码以及决策日志应以不可篡改的方式保存,并引入在产出物上标明来源的系统。模型提供者、分发者与使用者之间的责任边界与事故报告体系必须在制度上明确,人应能完整行使拒绝使用的权利。政府与责任机构应以装置和系统保障这些权利。

归根结底,“AI制造AI”并非夸张,而是我们当下面对的现实。我们要做的不是因惧怕变化速度而停下或放慢,而是要有让人类对技术的准确性、可验证性、可控性,尤其是以人为本的价值负责到底的态度与方法。唯有如此,人与AI才能相互弥补局限,朝着更安全、更便利、更有用的方向共同进化。

我们应当以设计者和监督者这一负责任的主体身份,而不仅仅是消费的用户身份,迎接这一巨大变化。可以说,这正是在“AI制造AI的时代”里,我们利用AI引领人类繁荣的方法。

阅读韩文原文