哲学书总让人有“很难懂”的先入之见,因而不太读得下去。不过,哲学家写的书中,也有简短明快、读来令人心头畅快的作品。哲学家哈里·法兰克福的著作《论废话(On Bullshit)》在对话这一语境中定义并分析了荒谬之言如何发生作用,并将其理论化。该书2005年出版,出人意料地登上《纽约时报》畅销书榜首。
法兰克福把“废话”解释为一种迷惑听者、且在道德上毫不在意的说法,是骗术专家的标准范式。这类“废话”比谎言更糟。原因在于,它不在乎真假,只重视说服读者。
令我们赞叹的大规模语言模型(LLM)所生成的句子,其运作方式是从海量文本中寻找模式并推测下一个词。由于目标是生成最像样的句子,因此这句话是真还是假并不重要。这类语言模型擅长模仿,却不擅长事实。
去年11月推出的ChatGPT上市仅两个月用户便超过1亿,人气爆发。在商业领域,它也已在提升生产力方面发挥重要作用。用过ChatGPT的人既会惊叹于其生产力,也能轻易察觉其局限。
这一聊天机器人给出的回答,即使句子流畅,很多也并非事实。它会编造虚假的名字和不存在的事实。在所有主题上都能进行灵活顺畅的对话,可能带来混淆内容真伪的结果。真假混杂的句子,可能在我们心中被记为真实。
开发ChatGPT的OpenAI为降低LLM的风险而采用的一种方法是基于人类反馈的强化学习。并非如人们常常想象的那样,拥有惊人算力的人工智能(AI)自行学习,而是由人类逐一剔除不当要素。问题在于,对于什么样的回答才算恰当,意见众说纷纭。
语言学家艾米莉·本德在警告LLM的风险时如此强调:“机器没有心智也能生成文本。问题在于,我们无法停止想象那些文本背后存在心智。”问题不在技术,而在对技术作出反应的人类。






