2024-03-07 | 정혜진 기자

微软工程师 "Copilot大量生成有害内容"…致函美国联邦贸易委员会

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

引领人工智能(AI)创新的微软(MS),其图像生成AI服务未能具备过滤有害内容的完善安全网——公司内部发出了这样的警告。

据CNBC报道,微软首席软件工程师谢恩·琼斯于6日(当地时间)就本公司的AI图像生成工具“Copilot Designer”向美国联邦贸易委员会(FTC)寄送了包含上述担忧的信函。他主张:“过去3个月里,我一直呼吁在建立更完善的保护装置之前暂停该服务,但未被接受”。Copilot Designer基于OpenAI的图像生成模型“DALL-E”。

琼斯历经数月测试的结果显示,Copilot Designer在广泛领域毫无过滤地生成不当内容。据他称,未成年人饮酒和吸毒、被性对象化的女性等暴力性图像,以及暴露政治偏见的内容被随机生成。琼斯表示:“微软和OpenAI在去年10月公开AI模型之前就已认识到这些风险”,并呼吁采取措施,如警示消费者认识风险、实施成人认证等。

信息技术(IT)业界争相加快AI技术开发,但围绕AI的伦理使用杂音不断。上月,谷歌在其AI模型Gemini引入图像生成功能服务仅20余天后便予以中止。谷歌联合创始人谢尔盖·布林反省称:“我们显然把图像生成搞糟了”,“因为没有进行彻底的测试”。琼斯在1月也曾致信国会,请求“调查AI图像生成技术,以及构建和营销此类产品的企业的治理结构和负责任AI实践方面的风险”。CNBC报道称,微软对此表示:“我们依照公司政策致力于解决所有担忧事项,并感谢员工为进一步加强安全而研究和测试最新技术的努力”。

阅读韩文原文