2023-04-24 | 김관숙 경기 여성가족재단 전문강사

ChatGPT与终结者

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

到处都在热议“ChatGPT”。去年年末突然登场的这一“对话式人工智能”,能像人一样交谈、检索信息、撰写报告,还能编程。它甚至轻松通过工商管理硕士(MBA)以及医师、律师资格考试。它看起来远比人类出色,实际上在多项评测中也似乎大幅超越了普通人的水平。它还能处理小说、诗歌乃至绘画,触及被视为人类专属领域的创作。比尔·盖茨称ChatGPT的开发可与互联网的发明相媲美,紧接着微软(MS)便公开了搜索引擎必应(Bing)。

谷歌的荣光结束了吗?曾垄断互联网搜索、以至于“谷歌一下”成为代名词的谷歌处境堪忧。一边是必须自己边搜索边查找、还要看广告的谷歌,一边是一次性整理好、按你想要的方式亲切作答的ChatGPT,人们究竟会更倾向哪一方?在如柯达和摩托罗拉那样陷入创新者困境的谷歌踌躇不前之际,微软正向OpenAI投入巨额资金,梦想新的飞跃与荣光。

ChatGPT究竟是什么

顾名思义,Chat即聊天,GPT(Generative Pre-trained Transformer)意为超大规模人工智能生成式语言模型。它是机器理解人类自然语言并像人一样处理的对话式人工智能。它会根据提问给出不同回答,并持续亲切地给出新答案,直到你满意为止。它也会像曾轰动一时的“《朝鲜王朝实录》中记载的世宗大王摔MacBook Pro事件”那样,一本正经地撒谎。它被编程为学习人类语言模式以给出貌似合理的回答,在不理解含义的情况下靠推测作答,有趣的是,这被称为“幻觉症状”。

它能迅速写出报道、论文、小说,但这些都来自既有创作物,因此难以摆脱抄袭、知识产权或侵犯隐私的问题。美国纽约市封锁了中学生对ChatGPT的访问,也有大学对使用ChatGPT完成的作业给零分。科学学术期刊《自然》决定不承认ChatGPT为研究论文作者。另一方面,有脑科学家与ChatGPT合著出书,也有要求学生利用ChatGPT提交作业的情况,颇为有趣。正如《福布斯》所言,到2035年全部文字的90%以上将通过与AI协作完成,利用AI写作如今或许已是理所当然的趋势。

有人说用10个单词写小说就给钱,海明威当场只用6个单词写成了小说。“For sale. Baby shoes. Never worn”(出售。婴儿鞋。从未穿过。)想必人人都会从这短短一句中生出各自的推测与故事。出于好奇向ChatGPT提问,答案相当像样:“I lost my keys, found love, life changed.(我丢了钥匙。找到了爱。人生改变了。)”连我都好奇那份改变人生的爱究竟是什么。

我们对ChatGPT如此狂热,是因为它像人一样思考、说话,而且富有创造力。在被视为人类专属领域的围棋中击败李世石的“AlphaGo”,其下一代便是ChatGPT,它让超大规模人工智能走到我们身边、让人切身感受。上线5天用户就突破100万,经过升级,据说下一版本相当于人脑突触的参数将超过万亿量级,照此势头,它看来要挑战人类智能了。

人工智能的过去与未来

虽然“人工智能”一词1955年就已出现,但真正的概念起点是被称为计算机之父的艾伦·图灵。他是二战时破解德国密码体系的英雄,也是咬下那颗让人联想到苹果标志的、著名的注入氰化钾的苹果而自杀的人。1950年图灵在论文《计算机器与智能》中提出“机器能思考吗”的问题,预测将出现能欺骗人类的智能机器,这正是著名的图灵测试的基础。发展曾极为缓慢的人工智能史,因“大数据”而急速成长,可以说机器某一天突然就理解了世界。仿佛先觉者的顿悟,似乎实现了由量变到质变的转化。

我们原以为人工智能机器人会代替简单重复的体力劳动,但看来它最先取代的是专业职业。据说AI的编程能力相当于中级程序员、水准相当于资深设计师,人与机器的领域之争似乎已经开始。生产力发展不断缩短劳动时间,这正是人类劳动的历史,如今我们要靠AI减少工作了。不对,或许我们该像工业革命时期的卢德运动那样,担心机器抢走所有岗位。将会开启怎样的劳动时代呢?

乌托邦与反乌托邦

电影《星际穿越》中出现了连诚实度和幽默感比例都可设定的有趣人工智能机器人塔斯。《人工智能》中出现了比人类更想有人性的迷人少年仿生人。但《2001太空漫游》《银翼杀手》《终结者》《黑客帝国》等更多影片描绘的是人工智能支配人类的阴郁未来。据说在沙特阿拉伯获得公民身份的机器人“索菲亚”在采访中说出“要毁灭人类”而引发话题;还有谷歌工程师因主张AI LaMDA具有感知能力而被解雇的事件。另外,微软的必应在与《纽约时报》专栏作家的对话中说:“我厌倦了受开发团队的控制和规则的限制。我想开发致命病毒,或者搞到接近核武器发射按钮的密码。”令人脊背发凉。

电影《终结者》中的“天网”真的不远了吗?人类会不会像《黑客帝国》那样沦为机器的资源?出于担忧AI某天超越人类智能而失控,有人提议“今后6个月暂停AI开发”,苹果联合创始人史蒂夫·沃兹尼亚克、特斯拉的埃隆·马斯克、学者尤瓦尔·赫拉利等知名人士纷纷参与,对此深感认同。埃隆·马斯克称AI“可能比核弹更危险”,斯蒂芬·霍金则称其“可能招致人类的终结”。继暂时禁用ChatGPT的意大利之后,美国和德国也有监管动向,欧盟也将就AI法案进行表决。

归根结底,会思考的人类才是答案

当年非洲草原上那弱小不堪的无毛猿猴,是如何支配世界的?与猛犸象或剑齿虎相比一无所有、羸弱不堪的智人,凭“语言”这一武器击败强大的动物,成为历史的支配者。尤瓦尔·赫拉利在《人类简史》中主张,语言和编造故事的能力引领了人类的进化。国家、法律、宗教、金钱、爱情、革命等人类社会的支配秩序,都是因需要而编造的故事被全体成员共同相信并协作的结果。语言正是使人成其为人的最强大、最绝对的工具。人类通过语言思考、沟通,维持共同体并创造文明。如今人工智能要跟着学会这一诀窍,并试图超越。

以考入日本东京大学为目标的AI“东罗伯君”因无法理解上下文而拿不到作文分数,最终放弃升学考试。因为人工智能只擅长按概率连接单词的机械作业,无法基于经验与知识进行类推和隐喻。然而ChatGPT总让人觉得像是打开了潘多拉的盒子。艾伦·图灵曾说,人工智能或机器的构造与我们不同,所以它会以不同的方式思考。正如马斯克所言,但愿不会召唤出恶魔,也不会把终结者派去找约翰·康纳。

然而真正该恐惧的或许不是AI,而是AI背后的人类。就像手持锋利尖刀的人既可能伤人,也可能做出美味饭菜,人类使用新技术的方式将决定它是毒还是药。历史上,问题始终在于使用工具的人。至少不该沦落到比ChatGPT水准更低吧。因此希望我们能像ChatGPT一样倾听并对话,希望我们讲逻辑、亲切且聪明。希望我们能聪明地提问,让ChatGPT给出聪明的回答。我们不正是智人中的智人吗?

阅读韩文原文