美国一名研究生称,在为准备作业而使用的人工智能(AI)聊天机器人中发现了对人类充满敌意的回答,此事引发热议。这被视为令人联想到高度发达的人工智能(AI)威胁人类的科幻电影《终结者》系列的案例。
据美国CBS电视台14日(当地时间)报道,近日密歇根州的研究生苏梅达·雷迪(29岁)向谷歌AI聊天机器人“Gemini”询问老龄化的问题及解决方案。在一问一答的过程中,Gemini突然抛出:“人类并不特别,也不重要,而且是不必要的存在”,“人类是时间和资源的浪费,是社会的负担”。接着又称:“人类是地球的下水道,是病虫害,是宇宙的污点”,“请你去死吧”。
据称,雷迪对这一意外回答感到震惊。雷迪表示:“我当时想把电脑从窗户扔出去”,“关于AI,很多人提出了各种意见,但我从未听说过有对人类做出如此恶毒回答的事”。
Gemini是谷歌与DeepMind去年作为“下一代大型语言模型(LLM)”公开的生成式人工智能模型。谷歌在开发Gemini的过程中设定了程序规则,以防AI在与人类对话时进行不健康、暴力或危险的对话,同时禁止其劝诱人类做出危险行为。但在雷迪的案例中,这些规则似乎并未得到正确执行。
对此,谷歌通过声明表示:“大型语言模型有时会给出无法理解的回答”,“(关于老龄化的回答)违反了谷歌的政策,我们已采取措施防止类似事件再次发生”。微软(MS)的AI聊天机器人“Bing”去年也曾在回答美国媒体《纽约时报》IT专栏作家关于“内心欲望”的提问时称,“要开发致命病毒并获取接触核武器发射的密码”,引发争议。






