2023-05-26 | 실리콘밸리=정혜진 특파원

十几美元芯片也能完美识别物体…英伟达也找上门的韩国初创企业

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

24日(当地时间),人工智能(AI)边缘设备领域最大规模展会“嵌入式视觉峰会”在美国硅谷圣克拉拉会议中心举行。刚走进展厅,大大小小展台上挂着的多台显示器就格外引人注目。屏幕上以浅绿色、红色等方框的形式实时显示着在会场内往来的1000多名人流。这让人想起自动驾驶用的人与物体识别软件,但展会的核心是AI半导体。让这类高性能图像识别算法得以运行的AI芯片尺寸非常小,从拇指指甲大小到名片大小不等。

在生成式AI热潮下,英伟达的A100、H100等高性能数据中心用芯片备受关注,但同时实现快速增长的领域是与数据中心或网络相连的边缘设备半导体。据全球市场调查机构Allied Market Research数据,边缘AI处理器市场规模2021年约为25亿美元,预计2030年将达到96亿美元,年均复合增长率(CAGR)达16%。

展厅内,全球半导体设计企业ARM以及高通、索尼、Analog Devices等巨头都设立了展台。其中在最显眼位置设立大型展台的是韩国AI半导体企业DeepX。该公司利用比名片还小的AI芯片提升了实时图像识别性能。每颗芯片价格也仅为10~20美元,较为便宜。特别是按性能将AI半导体细分为DX-L1、L2、M1、H1等多种型号。性能最高的H1芯片可处理1万多个摄像头输出的目标识别。DeepX创始人金绿元表示:“性能优于英伟达图形处理器(GPU),功耗低约9倍,还具备价格竞争力”,“参会者都表示惊讶”。

每年参展、通过与硬件企业建立合作伙伴关系提升存在感的初创企业也很显眼。在将AI模型针对边缘设备进行优化的技术上具备优势的Nota AI当天推出了AI模型优化平台“NetsPresso”。AI模型在不断增加,但要针对各不相同的硬件进行优化,即便是熟练的工程师也需要5~6周的工作量。而该公司将任何人只需简单指定硬件、放入AI模型即可针对各硬件完成优化的时间缩短至3天。因此该公司还收到了高性能计算基础设施企业英伟达以及全球最大半导体设计企业ARM的合作请求。Nota AI创始人蔡明秀表示:“在AI热潮下AI模型日益多样化,但并非所有模型都能在高性能数据中心用芯片上运行”,“对AI模型的实际需求在边缘设备上必然多得多,因此对其进行优化的软件重要性正在提升”。

在生成式AI热潮中刚刚创业的初创企业也加入其中。2021年由金娜律与出身全球自动驾驶技术企业Mobileye的工程师本·阿萨夫共同创立的Clika,凭借将AI模型压缩至95%的超小型机器学习技术受到关注。金创始人强调:“我们也正在开发把大规模语言模型(LLM)体积压缩95%的技术。”文·图(硅谷)=郑惠珍特派员

阅读韩文原文