在开源(开放型)人工智能(AI)模型迅速扩散的同时,对滥用开源制作深度伪造、侵犯个人信息、开发非法武器等的担忧也随之加大。AI产业界及学界内外呼吁建立防止开源模型被滥用的安全机制的声音不断增强。
据美国非营利组织未来生命研究所(FLI)13日发布的《AI安全性指数》报告,美国xAI和Meta、中国DeepSeek、智谱AI、阿里巴巴等全球5家开源模型开发商的安全性得分截至去年底平均为1.08分,大幅落后于OpenAI、Anthropic、谷歌DeepMind等3家封闭型模型开发商的平均分(2.35分)。阿里巴巴得分最低,为0.98分,xAI也仅为1.17分。
FLI于2023年征集了包括xAI创始人、特斯拉首席执行官(CEO)埃隆·马斯克在内的约1000名知名人士签名,撰写公开信主张应暂停当时最新模型“GPT4”的开发6个月,一直推动AI安全领域的全球合作。作为活动的一部分,其每半年针对主要企业综合风险评估、当前危害、安全框架、治理结构、信息共享等35项指标,评定并公布安全性得分。
FLI在本次报告中并未单独区分开源与封闭型模型开发商,但两个阵营间的分差十分明显。例如Grok1(xAI)、Llama4(Meta)、R1(DeepSeek)、GLM4.6(智谱AI)、Qwen3(阿里巴巴)等开源模型在“防止安全机制被微调破坏”一项上均被评为“没有防篡改装置”。
业界也提出了类似看法。开源模型具有向外部开发者开放源代码、有利于扩大生态的优势,xAI、Meta和中国企业将其作为追赶战略,但模型可能被任意改动,被滥用的隐忧更大。微软(MS)前一天也通过《AI扩散报告》分析称:“随着开放模型快速扩散,由于其结构上相对难以监督或控制,关于AI安全标准与管理体系的讨论必要性也在同步上升。”
近来以Grok争议为契机,全球对AI滥用的担忧不断加大。在Grok生成儿童性化图像一事曝光后,印度尼西亚政府封锁了该服务的接入,英国监管当局也于12日(当地时间)启动调查以认定是否违法。随着中国主导的开源模型扩散,此类担忧预计将进一步加大。据外媒报道,阿里巴巴模型Qwen在开发者社区“Hugging Face”上截至本月初累计下载量突破7亿次,在主要模型中以压倒性优势位居第一。韩国也以国家代表AI模型“自主AI基础模型”为中心,开源战略呈扩散趋势。
韩国AI法学会会长崔敬振(嘉泉大学法学系教授)表示:“开源模型的问题在于可靠性无法得到保障”,“要弥补这一点,需要像Linux等成功的开源软件(SW)那样,建立由多方共同验证安全性并推动其发展的体系。”对此,韩国科学技术情报通信部将于22日施行包含“高影响AI”监管内容的《关于AI发展与信任基础营造等的基本法》(AI基本法)。崔会长同时指出:“虽然法律施行在即,但监管标准仍然抽象”,“施行后也必须通过民间参与将标准具体化,才能发挥法律实效性。”






