2024-01-22 | 황수민 인턴기자

OpenAI封禁模仿美国民主党议员的“聊天机器人”:“不得滥用技术”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

OpenAI在美国大选前禁止开发模仿民主党初选参选人的聊天机器人Dean.Bot。

据《华盛顿邮报》等21日(当地时间)报道,OpenAI近日停用了开发民主党初选参选人、联邦众议员迪恩·菲利普斯的AI聊天机器人“Dean.Bot”的AI初创公司Delphi的账户。

OpenAI表示:“我们近日删除了故意违反不得用于政治竞选的API(应用程序接口)使用政策、或未经同意冒充个人的开发者账户。”

这是OpenAI为防止自身AI技术在美国大选过程中被滥用而采取的首项措施。

支持菲利普斯众议员的、名为“We Deserve Better”的超级政治行动委员会(super PAC)曾与Delphi签约,计划基于OpenAI的ChatGPT开发并运营菲利普斯聊天机器人。

该组织原计划利用Dean.Bot在网站上与选民实时对话。但随着账户被停用,Dean.Bot已被删除。

据悉,“Dean.Bot”的创意由创建菲利普斯超级政治行动委员会的硅谷企业家马特·克里西洛夫和杰德·萨默斯提出。

OpenAI禁止将ChatGPT以及图像生成AI“Dall-E”等自家AI用于政治活动等。

近期还制定了防止这些AI工具在选举中被滥用的方案。

OpenAI决定对ChatGPT提供的新闻、信息以及Dall-E生成的图像提供其在何处、由何人生成的资料来源。

特别是将加强对Dall-E生成图像的验证,并计划推出可确认某图像是否由Dall-E生成的“图像查找工具”。

阅读韩文原文