2024-11-28 | 양지혜 기자

[轮值专栏]安全开发AI之路

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

很少有发明像汽车那样带来如此多便利,它改变了全人类的生活方式。这种文明的利器有时也会变成凶器。问题出在不负责任的制造商或驾驶者身上。但把车取消会更好吗?当然不是。显而易见,即便有些副作用,所获得的利益实在太大。归根结底,在获取优点的同时把副作用降到最低,才是合理的做法。

人们对人工智能(AI)技术描绘的未来充满期待。另一方面,关于潜在危险性的警告也常被提及。这是合理的担忧。与所有其他技术一样,AI技术当然也存在被滥用的可能。深度伪造等已显现出前兆。但不能因此停止开发。与汽车一样,最大限度防止不负责任的使用、同时获取便利才是合理的。

就此,世界权威刊物《经济学人》近期刊登了一篇有趣的报道。文章指责AI批评者过度聚焦于潜在危险性,并同时关注开源AI模型。文章评价称,开发过程公开因而更具透明度的开源模型,有助于通过相互验证提升可信度;并分析认为,这还能防止AI这一强大工具只掌握在少数封闭的硅谷企业手中。因此文章建议,各国政府在适用一致的安全监管的同时,也应营造有利于开源AI活跃发展的环境。实际上,美国开放技术研究所在近期发布的报告中也指出,“在关于AI安全性的讨论中,把开放性等同于脆弱性是错误的”,“相反,开放性有助于营造更安全的AI生态系统”。也就是说,公开的环境会推动安全性强化,而这又带来更广泛的透明度与责任感,形成良性循环。

例如,Meta在2022年公开了新的数据集和模型,以提升自然语言处理(NLP)系统的公平性并缓解AI偏见。此前的基准主要聚焦于性别、种族、民族等偏见,而新的数据集将范围扩展至宗教、社会经济背景、性少数群体身份等500多个不同项目。数据汇集也由算法以及众多专家和具有实际经验者共同参与完成。任何人都可以应用该数据集,为AI模型搭载识别并回避对特定用语的社会偏见的训练技术。

再回到汽车的话题。如今装配在每辆车上、人人熟悉的三点式安全带,是1959年由沃尔沃汽车开发的。沃尔沃公开了这项技术,供任何人使用。由于其在保护驾驶者方面优于原有安全带,所有制造商都采用并加以改良。此后它被认为拯救了数百万人的生命。以这项公开的技术为基础,如今更安全、更便利的安全带装置仍在不断被研究和推出。开源技术同样对所有人开放。正因如此,在公开的环境中,集体智慧得以发挥作用,安全性由此得到验证,并朝正确方向改良。这正是在激烈的技术竞争中开源AI模型受到关注的原因。

阅读韩文原文