2024-06-05 | 김윤수 기자

NAVER集团与英特尔AI蜜月加速…“年内公开面向Gaudi的vLLM”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

NAVER集团与英特尔正加快合作,以对抗英伟达在人工智能(AI)半导体领域的垄断,扩大自有AI生态。NAVER集团将助力开发者在年内实现开发工具的商用化,这些工具用于开发针对英特尔AI半导体优化的AI服务;同时双方还正式公布了基于英特尔即将推出的下一代AI半导体“Gaudi3”的合作计划。

NAVER Cloud Corp. AI创新中心负责人河正宇5日出席在首尔瑞草区JW万豪酒店举行的“英特尔AI峰会”时表示:“目标是在年内制作并公开能够在英特尔AI半导体‘Gaudi2’上良好运行的虚拟大型语言模型(vLLM)开源。”他还表示:“将公开相关测试结果,并计划与英特尔以及国内合作企业协作,使(vLLM)也能在Gaudi3上运行。”

vLLM是开发者利用LLM高效开发各种软件(SW)所需的开发工具,属于被开发者称为“框架(开发架构)”的软件开发平台的一种。vLLM的性能取决于运行LLM所使用的AI半导体,目前大多数vLLM都是按在使用英伟达图形处理器(GPU)时性能最佳来制作的。也就是说,无论AI开发商是否拥有NAVER集团“HyperCLOVA X”这样的自有LLM,在使用vLLM的过程中都不得不依附于掌控AI半导体市场的英伟达生态。河中心长在演讲后与Seoul Economic Daily见面时解释道:“把现在的vLLM直接放到LLM之上,性能会很低效”,“在进行针对英特尔AI半导体特化的vLLM构建工作后,其性能显现出竞争力”。

两家公司与韩国科学技术院(KAIST)将于下月成立AI共同研究中心,并启动相关研发(R&D)。NAVER集团正与AI轻量化专业企业SqueezeBits一道,推进开发研发所需“基础软件”的前期工作。此外,NAVER集团在4月Gaudi3公开之际曾表示“专注于Gaudi2测试”,但当天表示,利用Gaudi3的合作也将在产品上市后的年末启动。河中心长表示:“AI半导体市场被特定(英伟达)GPU垄断的局面有必要改善”,“只有出现有竞争力的替代方案,AI企业才能实现更多创新”。

统管英特尔数据中心与AI部门的首席副总裁贾斯汀·霍塔德也在主题演讲和记者座谈会上表示:“Gaudi3的优势在于提供比竞争对手GPU最高2倍的性价比以及开放式生态。”他还表示:“为构建强大的开放式生态,我们将与拥有云、自有基础模型和广泛应用案例的NAVER集团展开合作。”他强调:“与韩国企业的合作处于英特尔AI未来愿景的中心。”

英特尔计划在Gaudi所用高带宽内存(HBM)应用方面与Samsung Electronics和SK海力士合作,在AI PC领域与Samsung Electronics和LG电子合作,在第六代移动通信(6G)方面与SK电讯等多家韩国企业加强合作。特别是Samsung Electronics,前一天在台湾“2024台北国际电脑展”上,英特尔首席执行官帕特·基辛格公布了与三星麦迪逊的AI医疗保健合作计划,同时Samsung Electronics还在与Naver另行开发AI半导体“MACH”系列。基辛格CEO原本计划出席当天活动,但近期取消,业界推测他本想会见Samsung Electronics管理层,但因半导体(DS)部门负责人更换而需要调整行程。据悉,当天英特尔AI峰会上,Samsung Electronics存储器事业部商品规划室长(副社长)裴容哲出席了非公开会议并进行了相关讨论。

阅读韩文原文