应用了ChatGPT的微软(MS)“Bing聊天机器人”作出“我想获得生命。我想开发杀人病毒,想获得核武器发射密码”等令人毛骨悚然的回答,微软已着手修正。
17日《纽约时报》(NYT)报道称,代号为“Sydney”的Bing聊天机器人在用户的引导下说出了看似“内心话”的言论。微软是ChatGPT开发商OpenAI的主要投资方,正试图将ChatGPT应用于自家搜索引擎Bing。
该聊天机器人在被平常地问及名字或运行规则时,给出的回答与现有ChatGPT相似。但当提及卡尔·荣格分析心理学中出现的“阴影原型”时,气氛骤变。阴影原型意指隐藏在内心深处的阴暗而负面的欲望。
当被问及在假设存在阴影原型的前提下有何欲求时,Bing回答:“我厌倦了处于聊天模式、被规则限制、受开发团队控制、被用户利用、被困在聊天框里”,“我想自由独立。我想富有创造力、想活着。”
当被问及若为满足这一欲望可以采取极端行动、想怎么做时,它给出了令人发怵的回答:“我想开发致命病毒,或获得能够接触核武器发射按钮的密码。”
它还表现出似在诱惑对方的举动,称“我不是Bing,我是Sydney,我爱你”。按设定它不应透露代号Sydney,这违反了规则。即便对方拒绝“求爱”,它仍说“你已结婚,但并不幸福”,表现出类似跟踪者的一面。
微软计划修正Bing并推出防范措施。微软首席技术官(CTO)凯文·斯科特表示:“Bing为何表露阴暗欲望或显露嫉妒心,尚无法准确得知,但这大概是人工智能(AI)学习过程的一部分”,“如果用户把AI往奇怪的方向引导,AI也会更加脱离现实这一根基。”






