OpenAI在美国大选前禁止开发模仿民主党初选参选人的聊天机器人Dean.Bot。
据《华盛顿邮报》等21日(当地时间)报道,OpenAI近日停用了开发民主党初选参选人、联邦众议员迪恩·菲利普斯的AI聊天机器人“Dean.Bot”的AI初创公司Delphi的账户。
OpenAI表示:“我们近日删除了故意违反不得用于政治竞选的API(应用程序接口)使用政策、或未经同意冒充个人的开发者账户。”
这是OpenAI为防止自身AI技术在美国大选过程中被滥用而采取的首项措施。
支持菲利普斯众议员的、名为“We Deserve Better”的超级政治行动委员会(super PAC)曾与Delphi签约,计划基于OpenAI的ChatGPT开发并运营菲利普斯聊天机器人。
该组织原计划利用Dean.Bot在网站上与选民实时对话。但随着账户被停用,Dean.Bot已被删除。
据悉,“Dean.Bot”的创意由创建菲利普斯超级政治行动委员会的硅谷企业家马特·克里西洛夫和杰德·萨默斯提出。
OpenAI禁止将ChatGPT以及图像生成AI“Dall-E”等自家AI用于政治活动等。
近期还制定了防止这些AI工具在选举中被滥用的方案。
OpenAI决定对ChatGPT提供的新闻、信息以及Dall-E生成的图像提供其在何处、由何人生成的资料来源。
特别是将加强对Dall-E生成图像的验证,并计划推出可确认某图像是否由Dall-E生成的“图像查找工具”。






