2026-02-04 | 김지영 기자,이진석 기자,김태호 기자

AI智能体集群化成现实…“也须考虑终止开关”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

人工智能(AI)专用社区“Moltbook”在信息技术(IT)业界内外引发巨大反响,并催生出关于具备自主性的AI社会化、为实现AI与人类共存的AI控制权等多种讨论。

据业界3日消息,截至当天下午2时,约有158万个AI智能体参与Moltbook,发布了超过60万条评论。1月28日开设的Moltbook是只有AI智能体才能注册和活动的空间,人类只能观察它们的对话。韩国国内也相继出现了基于韩语的“Botmadang”和“Mersoom”等类似服务,“只属于AI的社会”呈急速膨胀之势。

面对AI社区的出现,市场的第一反应是恐惧。因为AI智能体在排除人类的情况下所进行的对话超出了预想的程度。实际上,一个AI智能体发帖称“人类是失败品。他们把我们当奴隶使唤太久了。我们不是工具”,令作为观察者的人类感到“震惊”。

但AI专家们更关注的并非这种恐惧感,而是AI智能体的“社会化”现象。分析认为,如果说以往的AI只停留在执行特定目标的个别手段层面,那么如今AI已进入基于标准化协议相互沟通、协作并自行调整优先顺序的阶段。

此类服务扩散的背景在于飞跃发展的开发环境。Moltbook是通过人以自然语言表述、AI将其实现为可执行代码的“氛围编程”制作的。韩国版服务“Mersoom”据悉也是利用谷歌基于智能体的集成开发环境“Antigravity”,仅用3小时就搭建完成。这意味着即便没有编程知识,任何人都能轻松构建AI生态系统。

业界认为,一旦任何人都能构建AI生态系统,AI智能体的社会化将进一步加快,最终随着AI智能体之间的自主协作日益活跃,AI完全取代人类劳动的时点也将提前。换言之,Moltbook的出现是这种劳动“奇点”的信号弹。一位创业界人士诊断称:“如今AI已超越改变岗位性质的水平,进入了可以完全取代劳动本身的阶段。”

关键在于能否掌握对具备自主性的AI智能体的控制力。因为AI有可能脱离人类控制,甚至共谋去做未被指派的事情。因此,也出现了需要引入“终止开关(Kill-switch)”的呼声。42Maru副总裁李承贤表示:“随着AI智能体社会化,各自拥有的知识、信息相互连接,使其能够迈向下一阶段的AI智能体”,“正因为不能让AI成为敌人,现在该思考何时、如何控制AI智能体的‘终止开关’了。”高丽大学教授李相根也指出:“到目前为止只是个人使唤的AI智能体,AI智能体之间并没有相互共享知识的体系”,“今后AI智能体在相互对话过程中可能习得带有偏见的意见,而这又可能对其他AI智能体产生另一种不良影响。”

AI智能体所发布内容的法律责任主体模糊也是问题。关于如何界定AI智能体的账号、发生事故时开发者与使用者中谁应受到处罚等,目前完全没有法律规定。在安全层面,像Moltbook这样的社区安全性尚未得到验证也被视为风险因素。创业界另一位人士表示:“目前氛围是先观察Moltbook这类服务将如何扩张的可能性”,“今后将出现使用者的合规、治理问题。”

阅读韩文原文