一项能够有效应对导致人工智能模型性能下降现象的学习技术已被开发出来。
UNIST(蔚山科学技术院)产业工程系及人工智能研究生院金成一、林东永教授团队25日表示,已开发出“对数据漂移具有强健性的时间序列学习技术”。
时间序列数据是指按时间顺序、以一定周期连续采集的数据。金融、经济、交通、农业、制造、医疗健康等各类产业中使用的大量数据都具有时间序列形态。
时间序列数据会随着影响数据生成的外部因素变化而出现“数据漂移”现象。数据漂移是指人工智能模型训练所用数据与实际运行环境中的数据出现差异。
金成一教授表示:“一旦发生数据漂移,时间序列学习人工智能模型的性能就会下降”,并补充说:“这是使各类产业难以利用时间序列数据的顽固性问题。”
研究团队开发了基于Neural SDEs(随机微分方程)的强健神经网络结构设计方法论,可有效应对上述问题。
Neural SDEs是对残差神经网络模型的连续版本Neural ODEs进行扩展的模型。研究团队提出了即使在数据漂移现象下也能保持强健性的时间序列Neural SDEs模型设计方法论的理论依据。
研究团队展示了依照该方法论设计的三种Neural SDEs模型。所提出的模型在发生数据漂移现象的数据集上执行插值、预测、分类等各种任务时,表现稳定且性能优异。
当数据漂移现象发生时,快速捕捉并重构数据、重新训练的一系列工程过程需要耗费大量时间和成本。研究团队从理论和实验两方面验证了让人工智能从一开始就对数据漂移现象具有强健性所需的技术。
林东永教授表示:“近来因动态数据环境导致的数据漂移,使时间序列人工智能模型性能下降的案例频发”,“本研究的意义在于开发了能够让人工智能从一开始就对漂移具有强健性的训练方法论,并在理论和实验上验证了其性能。”
第一作者吴龙京研究员表示:“通过本次研究,开发了防止因时间序列数据漂移导致人工智能性能下降的神经网络结构设计方法论”,“今后计划持续开发与该技术相关联的时间序列数据漂移监测技术、训练数据重构技术等,供韩国国内各类企业使用。”
本次研究被国际权威学术会议ICLR(International Conference on Learning Representations)选为进入前5%的重点(spotlight)论文,将于今年5月在奥地利维也纳发表。此外,该研究还获得了韩国保健产业振兴院生物医疗全球人才培养事业、信息通信规划评价院人工智能研究生院事业、韩国科学技术情报通信部韩国研究基金会基础研究及以人为本—碳中和全球供应链研究中心的支持。






