2024-06-25 | 송이라 기자

三正KPMG“端侧AI崛起…低功耗、高性能半导体市场扩大”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

随着无需数据外传、在设备内实现人工智能(AI)服务的端侧AI市场扩大,有报告提出了企业利用该技术推动服务多样化的战略。报告预计,低功耗、高性能半导体市场将扩大,能够自主学习用户模式并提供所需服务的“环境计算”市场也将成长。

三正KPMG于25日发布《为生成式AI铺开的新舞台——端侧AI》报告,从多角度分析了正作为新平台崛起的端侧AI技术的应用战略。随着Samsung Electronics的Galaxy S24系列、Apple Intelligence、微软的Copilot+PC等创新产品和功能相继公开,端侧AI正作为弥补既有云端AI服务缺点的技术而备受关注。

端侧AI是指用户将需求输入设备后,由设备内搭载的AI模型和半导体等自有数据处理系统运行,无需数据外传即可实现的AI服务。它弥补了利用云系统的既有AI服务在运行过程中因消耗大量数据而导致电力和半导体消耗大的缺点。实际上,基于端侧AI的生成式AI服务,其AI模型分析速度快,系统运营成本也相对较低。此外,由于用户输入的信息不会传出设备之外,在处理个人信息等敏感数据方面适配度高,因此关注度不断升温。

据此,报告提出了可以端侧AI为基础推动企业业务创新与规模化(Scale-up)的“SCALE(S·Semiconductor—C·Cloud—A·Ambient Computing—L·Language Model—E·Explainable AI)”战略。

首先,端侧AI利用设备内电力运行AI模型,须保持较低的电力消耗。因此报告预计,可实现低功耗运行的半导体技术FPGA(Field Programmable Gate Array)、ASIC(Application Specific Integrated Circuit)等到2028年将实现年均40%以上的大幅增长。而高性能半导体的市场将以云和数据中心等电力制约较少的领域为中心扩大。

另一方面,报告分析认为,应在用户周边的IT设备自主学习用户模式、由设备自行提供所需服务的“环境计算”市场中寻找机会。此外,鉴于端侧AI基于小型AI模型运营服务,报告预计小型AI模型市场将正式扩大。

同时,利用端侧AI可向用户即时提供AI分析结果,使用户与AI模型之间的距离进一步拉近。报告强调,为此应制定可减少用户困惑、增强AI模型运营稳定性的“可解释AI(Explainable AI)”技术管控方案。

三正KPMG AI中心常务李俊基表示:“应以作为生成式AI应用新趋势崛起的端侧AI为中心,着力扩展AI生态系统并确保应用场景(Use Case)”,“若能基于可有效发挥端侧AI优势的战略,开发强化用户体验的服务,从而在AI市场确保差异化竞争力并提升客户价值,这将成为获得新业务潜力的契机。”

阅读韩文原文