角逐国家代表人工智能(AI)称号的“自主AI基础模型”开发企业,15日经过第一轮评估,由五支团队压缩至三支团队。政府以此为起点,将最终筛选出两支团队,集中提供图形处理器(GPU)和数据支持,力争打造出可与全球科技巨头相媲美的模型。
在业界关注聚焦于此次角逐之际,海外则爆出了与Grok有关的争议。AI服务Grok生成将儿童作为性对象的深度伪造图像,各国的制裁动向不断扩大。一年前曾以技术创新震动全球科技巨头的DeepSeek,也因安全性担忧而在主要国家遭到冷遇,目前在中国以外的美国、欧洲、印度、韩国等地市场占有率不足5%。控制深度伪造犯罪、信息泄露乃至非法武器开发等副作用的安全性,已成为市场上与性能同等重要的核心竞争力。
自主AI基础模型作为高性能AI模型,也无法摆脱安全性担忧。由于它是任何人都可使用的开源(开放型)模型,这一点尤为突出。开源模型如政府所述“引导民间推出多样化服务,提升国内AI产业生态的活力”,凭借开放性有利于迅速扩大生态,但外部开发者可随意改动模型,可控性更低。因此,在近期美国未来生命研究所(FLI)的“AI安全性指数”中,xAI、Meta、DeepSeek、智谱AI、阿里巴巴等开源阵营五大知名开发企业均获得1分左右的不及格评分。
自主AI基础模型从第二轮评估起,有必要不仅评估性能,还应引入安全性专用基准(评估指标)等,扩大相关评估比重。此次第一轮评估通过13项共通基准从多角度进行,但大多以性能评估为主。在专家评估中,“安全可信的AI模型开发技术实力”也仅是被纳入满分35分中占10分的“开发战略及技术”项目。对危险AI的监管标准同样必要。载有“高影响AI”监管条款的《关于AI发展与信任基础构建等的基本法》(AI基本法)将于22日施行,但仍有指摘认为其标准抽象、实效性不足。






