“我们部长会喜欢什么样的策划方案?”“我朋友说了这样的话,是什么意思?”
工作中遇到问题,或与朋友产生矛盾时,立刻向人工智能(AI)提问的人越来越多。把几乎一切都交给曾被视为陌生、不可信的AI,说“AI外包时代”已经来临也不夸张。比起自己苦思冥想,信任AI——即数据综合得出的结论——更轻松,而且最重要的是风险更低。然而,接过代替人类作决定权利的AI并不承担责任。即使AI提出的解决方案带来了非预期的结果,也无法向AI追责。
新书《不负责任的AI》通过具体案例考察这种明明无法向AI追责却无限信任的“AI盲从”现象,并表明AI不过是机器,只有通过人类彻底的管理与监督才能发挥应有的功能。AI所做的事远多于上述范畴:求职资料审查、招聘面试、银行贷款审查、法院判决辅助、犯罪名单登记、恐怖分子排查、自动驾驶汽车运行等。工作种类之多,令人怀疑人类是否把所有工作都外包给了AI;甚至涵盖了那些足以彻底改变一个人生命与人生、让人怀疑是否该交出去的领域。
此外,因AI而消失或将要消失的人类职业清单至今仍在不断更新。在人与AI的“竞争”中,认为人类会败北的预测比认为人类会取胜的预测更有力。而这只有在“人类比AI更低劣、更不准确、更常出错”这一前提为真时才成立。
但事实果真如此吗?本书断言,能够纠正AI的只有人类彻底的管理与监督,通过这一点AI才能发挥其功能,人类才能将AI用作聪明的手段。AI是普罗米修斯赠予的看不见的火,AI究竟是乌托邦还是反乌托邦,最终取决于人类的选择。
尤为值得一提的是,作者经过数年深思,提出的不是一个统一的解法,而是可适用于所有情形的基本原则:对于可验证的决定,需要定期的质量检查、数据使用的透明性以及快速的异议申诉程序。同时,为理解并设计人与机器共同作出决策时的社会性与技术性结果,跨学科研究不可或缺。作者主张,心理学、伦理学、哲学、社会学、法学等多个领域必须合作,且信息科学家应积极参与制度设计,技术性需求才能得到有意义的体现。书中还介绍了2024年3月欧洲议会通过的全球首部综合性《人工智能法》是将这一方向制度化的第一步。2万2000韩元。






