2023-12-15 | 실리콘밸리=윤민혁 기자

英特尔推出搭载人工神经网络芯片的CPU…开启“笔记本边缘AI时代”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

如果说2023年是生成式人工智能(AI)崛起的一年,那么2024年有望成为被称为“掌中AI”的“边缘AI(端侧AI)”时代。边缘AI指的是不仅在智能手机和PC上,而且在所有装有半导体的电子设备上应用AI芯片组,从而在信息通信技术(ICT)基础设施的“末端(边缘)”完成AI运算的方式。它不仅能为各设备减轻生成式AI庞大的运算负担,还具备无需联网即可自行运行AI的优点。主要科技企业在硬件与软件(SW)全领域接连推出边缘AI相关产品,为“万物皆AI”的时代做准备。

14日(当地时间),英特尔首席执行官(CEO)帕特·基辛格在美国纽约纳斯达克总部举行“AI Everywhere”活动,推出新款移动中央处理器(CPU)“英特尔酷睿Ultra”和服务器用CPU第五代至强。基辛格CEO强调:“AI创新预计将占全球GDP的三分之一,不仅在云端,还需要能在PC和边缘有效整合并运行AI的技术。”

英特尔酷睿Ultra在PC用CPU中首次搭载神经网络处理器(NPU),强化了AI性能。同样用于AI运算的图形处理器(GPU)性能也比上一代提升2倍。由此可实现总计34TOPS(每秒万亿次运算)的运算能力,最终使生成式AI性能提升1.7倍,同时单位功耗性能比提升2.5倍。搭载NPU使笔记本电脑内可自行运行生成式AI。实际上,搭载英特尔酷睿Ultra的笔记本电脑无需联网也能运行Meta的生成式AI“Llama2-7B”。英特尔表示:“计划与微软(MS)、奥多比等100多家企业合作,不断增加‘杀手级应用’。”

英特尔的举动与谷歌近期发布的生成式AI“Gemini”也有相似之处。谷歌按性能和资源投入量将Gemini分为Ultra、Pro、Nano。规模最小的Nano可在搭载张量处理器(TPU)的智能手机Pixel 8 Pro上无需网络连接即可运行。谷歌同样从生成式AI开发阶段就考虑了边缘AI。尚未公开生成式AI的苹果最近也公开了可在搭载NPU的iPhone上使用的“日志”应用,启动了边缘AI的应用。该功能由AI整理iPhone使用记录。Samsung Electronics也计划在Galaxy智能手机、笔记本电脑、可穿戴设备乃至家电上全部搭载NPU,并使其能够运行去年11月公开的生成式AI“高斯”。

大型科技企业齐齐关注边缘AI的第一个原因是计算资源有限。在云端运行的超大规模生成式AI在训练和运行上耗费天文数字般的成本。英伟达、AMD的GPU价格暴涨,半导体供需本身也很困难,AI每次运行产生的电费也是负担。实际上,OpenAI仅去年就出现5.4亿美元亏损。ChatGPT的运行成本达到普通搜索的100~200倍。各设备为中央云减轻运算负担的必要性正在增大。

通信基础设施的局限依然存在。随着AI成为大势,收发量(流量)预计将增加,而且不少国家连LTE全国网络普及都未实现,更不用说第五代移动通信(5G)。考虑到AI可应用于传统IT设备之外的车辆、机器人、闭路电视等摄像头等所有需要半导体的设备,无需网络连接也能自行运行的边缘AI的必要性更加突出。今年由生成式AI主导的市场已对边缘AI时代作出敏捷反应。摩根士丹利在去年11月的报告中曾预测:“如果说2023年是生成式AI、云、GPU为主的一年,那么明年随着AI普及扩散,工作负载将转移到位于网络边缘的各个设备上。”摩根士丹利同时将苹果、高通、联发科、小米等列为边缘AI的主要受益股。韩国股市也在迅速反应。

阅读韩文原文