2024-01-16 | 실리콘밸리=윤민혁 특파원

2024选举年…大型科技公司竭力阻止AI干预政治

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

在2024年以台湾为开端,美国、韩国等主要国家大选、议会选举接连举行之际,ChatGPT开发商OpenAI推出了防止人工智能(AI)被滥用的对策。其意图是通过展示阻止深度伪造等基于AI的假新闻扩散的努力,事先切断政治争议介入的空间。

15日(当地时间),OpenAI表示将在ChatGPT和图像人工智能Dall-E等提供的最新选举信息中明确标示出处。OpenAI解释称:“我们将与美国州务卿协会(NASS)等合作,提供准确的选举信息”,“信息出处的透明性有助于选民更好地评估信息并决定可以信任什么”。

OpenAI还表示,将在Dall-E生成的图像上留下水印,并推出可验证图像是否由AI生成的“图像查找工具”。图像查找工具目前正在媒体和研究人员之间验证。OpenAI首席技术官(CTO)米拉·穆拉蒂去年10月曾表示:“在内部测试中,图像检测工具的准确率达到99%。”

今年的选举中,由于AI发展使难以与真实区分的图像量产变得容易,对假新闻扩散的担忧很大。原因在于,如今更容易通过合成方式让知名政治人物“说出”其实并未说过的话,从而误导舆论。过去制作精细的深度伪造需要专业技术能力,而现在只需输入简单的提示词,任何人都能生成虚假图像。

对此,大型科技公司正努力让AI与政治保持距离。谷歌限制了AI聊天机器人“Bard”和AI搜索功能可回答的选举相关问题。谷歌和Adobe也与OpenAI一样决定在图像中加入水印,谷歌和Meta(原Facebook)还规定,若在选举广告中使用AI,必须予以明确标示。

尽管大型科技公司作出努力,未来选举中AI的介入仍不可避免。原因在于AI正融入所有技术领域,而水印等“痕迹”也有易于去除的方法。《华盛顿邮报》指出:“水印可以轻易编辑,加密图像的痕迹也可通过改变色彩等方式扭曲。”

阅读韩文原文