谷歌的人工智能(AI)平台Gemini因过度体现多样性的方针引发历史扭曲的争议,已暂停图像生成功能。例如,要求“画一位教皇”时会画出有色人种女性教皇,或将参加二战的德军描绘为东方女性。谷歌方面表示,将迅速改进多样性指引反而导致过度校正的部分。
据《金融时报》(FT)等外媒21日(当地时间)报道,谷歌Gemini负责人杰克·克拉夫奇克表示:“(Gemini的)人物图像生成功能出现了错误”,“我们将暂停该服务,并推出进一步完善、适用于各种情境的改进版本”。
Gemini是可生成文本、图像、语音和视频的多模态AI模型。此次暂停是在本月1日宣布新增图像生成功能后仅20天做出的,因为自推出以来,社交媒体(SNS)等渠道不断指出各种错误。将女性或有色人种的图像描绘成白人,反之又将白人描绘成有色人种的情况很多。
尤其是对具有历史背景的人物接连生成错误图像。在维京国王或二战纳粹德军等显然应优先呈现白人男性形象的场合,也被描绘为东方女性或有色人种,因而引发“历史扭曲”争议。谷歌方面解释称:“目标不是为Gemini生成的图像指定理想的人口统计学分类,而是最大化多样性”,同时表示“关于多样性的指引反而可能导致过度校正”。
一年前谷歌也曾因AI蒙受不光彩。去年在搭载AI的搜索引擎Bard正式发布的场合,Bard给出了错误答案。当时被问及“首次拍摄太阳系外行星的望远镜”,Bard回答是詹姆斯·韦布空间望远镜(JWST),但实际上是2004年欧洲南方天文台的甚大望远镜。当时因这一错误答案,谷歌股价一天暴跌近9%。






