KAIST于5日表示,生物及脑工程系李相完教授(神经科学-人工智能融合研究中心主任)研究团队利用基于大脑的人工智能技术,成功破解了人工智能难题之一——过拟合与欠拟合权衡问题的解决原理。
本次研究由KAIST李相完教授与金东在博士(现为纽约大学博士后研究员)主导,KAIST郑在胜教授参与,以《前额叶对强化学习中偏差-方差权衡问题的解法》为题,于去年12月28日刊登在国际学术期刊《细胞》(Cell)旗下开放获取期刊《细胞报告》(Cell Reports)网络版。
近来的人工智能模型虽能针对各种现实问题给出最优解法,但在灵活应对情况变化方面仍然存在困难。在机器学习中,这被称为欠拟合-过拟合风险(underfitting-overfitting risk)或偏差-方差权衡问题(bias-variance tradeoff),虽已被长期研究,但在如现实世界那样权衡条件不断变化的情况下,尚未有人提出明确的解法。
相反,人类既能专注于当前给定的问题(解决欠拟合问题),又不会过度执着于眼前问题(解决过拟合问题),能够根据变化的情况灵活应对。
研究团队利用脑数据、随机过程推断模型和强化学习算法,建立了人类大脑如何解决这一问题的理论框架,并由此推导出灵活的元强化学习模型。
令人惊讶的是,人类大脑仅利用一项信息——在中脑多巴胺回路和前额叶中处理的“预测误差”下限(prediction error lower bound)——来解决这一问题。我们的前额叶,特别是腹外侧前额叶皮质,会估计以当前所采用的问题解决方式能在多大程度上解开给定问题的期望值上限,并通过顺应变化的情况灵活选择最优问题解决策略的过程,将欠拟合-过拟合风险降至最低。
李教授研究团队于2014年首次发现,该前额叶区域参与基于环境不确定性灵活调节强化学习策略;2015年发现其还参与因果关系推断过程;随后在2019年发现该脑区甚至能够考虑问题的复杂度。
这一系列研究结果是人类自我评价学习与推断能力的元认知能力的证据,并据此确立了“前额叶元学习理论”,即基于该能力可以解决人工智能难以应对的现实世界中各种权衡情境。本次研究被评价为基于该理论实际解决人工智能长期难题之一——欠拟合-过拟合权衡问题的首个案例。
利用通过研究开发的元强化学习模型,可以通过简单的游戏间接测量人类灵活解决问题的能力。更进一步,若应用于智慧教育或与成瘾相关的认知行为治疗,有望提升人类灵活应对情况变化的问题解决能力本身。作为对下一代人工智能、智慧教育、认知行为治疗等多个领域具有较大影响力的原创技术,近期已完成国内及海外专利申请。
在KAIST主导该研究的第一作者金东在博士表示:“这是展示理解人类智能独特优势有多么重要的研究之一。”
研究负责人李教授表示:“人工智能比我们解得好的问题很多,但反过来,人工智能难以解决的问题对我们来说往往感觉非常简单,通过从人工智能理论视角把人类各种高层次能力形式化的研究,有望逐一揭开人类智能的秘密”,并称“这种基于大脑的人工智能研究可以看作以工程方式探究人类智能的过程,将能为人类与人工智能相互帮助、共同成长确立明确的基准点”。
李教授因基于大脑的人工智能研究的独创性和挑战性受到认可,曾获得谷歌教授研究奖和IBM学术奖。
研究团队表示,将在以韩国科学技术情报通信部财源、获信息通信规划评价院支持而设立的KAIST神经科学-人工智能融合研究中心,运用基础技术开发模拟人类智能的下一代人工智能模型,并通过与DeepMind、IBM人工智能研究所、MIT、牛津大学等国际共同研究协议机构的合作研究,提升技术的影响力。






