2021-09-03 | 박현익 기자

NAVER集团将在全球顶级自然语言处理学会发表超大规模AI论文

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

NAVER集团3日宣布,将在自然语言处理(NLP)领域学术会议“EMNLP 2021”上发表包括超大规模人工智能(AI)“HyperCLOVA”核心研究论文在内的共7篇论文。EMNLP与ACL同被视为NLP领域最高水平的AI学术会议。

HyperCLOVA是NAVER集团今年5月作为韩国企业首家公开的超大规模AI。其韩语数据学习量比被评为现存最优秀超大规模AI的“GPT-3”多出6500倍以上,专门针对韩语超大规模语言模型。

NAVER集团将发表的研究介绍了HyperCLOVA及其训练所用数据,并验证不同规模模型的性能。论文证明,HyperCLOVA在各类韩语任务(task)上仅凭有限示例即可展现出优异的上下文学习(in-context learning)性能。该研究不仅有NAVER集团的CLOVA及AI Lab研究人员参与,还有软件平台工程师、搜索工程师等多个团队共37人作为作者参与。

此外,NAVER集团还将介绍与HyperCLOVA相关的、利用超大规模语言模型自动生成并标注数据,从而高效进行数据增强与蒸馏(distillation)的技术研究。同时将发表提出在OCR任务中高效提取文档信息方式的论文,以及探索AI语言模型作为生物医学领域知识库应用可能性的论文等。NAVER集团补充称,这是与KAIST、高丽大学、首尔大学等韩国内外多所大学积极合作的成果。

NAVER集团 AI Lab所长河正宇表示:“自去年下半年起集中投资超大规模AI技术并汇聚研究力量,在韩国率先公开HyperCLOVA技术并成功商用之后,又取得了在世界最具权威的学术会议上获得技术实力认可的佳绩”,并强调“此次论文超越了以往以英语为中心的语言模型研究,在韩语AI的价值获得全球自然语言处理学界认可这一点上,也是非常有意义的成果”。

阅读韩文原文