为抢占生成式人工智能(AI)市场主导权,科技巨头之间的战场正从网页端转向智能手机。接入云端、通过大规模运算得出答案的AI服务,正在向无需联网、在智能手机等终端内部即可给出回答的“端侧(On-Device)”形态演进。
尤其有分析认为,正在争夺全球智能手机份额(以出货量计)第一、第二位的Samsung Electronics与苹果之间的端侧AI竞争将日趋激烈。据悉,Samsung Electronics将在下月发布的“Galaxy S24”系列中搭载自研AI服务“高斯(Gauss)”,苹果也计划在明年9月前后推出的“iPhone 16”系列中搭载自研生成式AI。此外,应用处理器(AP)设计企业高通和联发科也在集中开发可实现端侧AI的神经网络处理单元(NPU)等神经引擎,“掌上AI”市场的争夺战愈发激烈。
━ 借“Siri”升级……苹果觊觎AI霸权 据IT业界11日消息,苹果计划从明年上市的iPhone 16系列起大幅改善麦克风性能,以提高语音识别AI助手服务“Siri”的语音识别率。苹果将在提升AI语音识别准确度的同时,通过iOS升级提供各类AI相关附加功能。
苹果还在全力开发自研超大语言模型(LLM)“Apple GPT(暂定名)”。Apple GPT以苹果自有的LLM框架“Ajax”为基础,预计明年前后公开。不过也有分析认为,苹果创始人史蒂夫·乔布斯离开后,苹果服务的重心已从“创新”转向“稳定性及用户体验强化”,因此Apple GPT的公开时点可能有所推迟。
“ChatGPT热潮”之后,外界担忧苹果在生成式AI竞争中落后于微软、谷歌、Meta(原Facebook)等其他科技巨头。对此,苹果首席执行官(CEO)蒂姆·库克在今年8月业绩发布电话会议上表示“我们也在持续进行AI领域的研究”,暗示将在明年前后公开生成式AI服务。
苹果在AI市场拥有的潜力相当可观。据Forex.com调查结果,苹果以9.03分的创新分数位居全球第二,仅次于Samsung Electronics(9.25分),无形资产规模达2万2970亿美元,居压倒性第一。不过,在全球主要企业去年的研发(R&D)投资额排名中,亚马逊以817亿美元居压倒性第一,而苹果的投资额为293亿美元,甚至落后于谷歌(294亿美元),因此也有人指出苹果需要更为积极的投资。作为参考,持有OpenAI营利法人49%持股的微软的研发投资额约为272亿美元。
━ “AI回答越多、亏损越大”……端侧AI成必需 也有分析认为,苹果强化端侧AI是必需之举。若以云端形式提供AI服务,会因回答产生的“延迟(Latency)”问题导致服务中断,而且每次回答都调用云端,还须因运算带来的电费及相关基础设施建设支出巨额成本。
实际上,全球代表性聊天机器人型AI服务OpenAI的ChatGPT每次回答约需花费10美分,是使用谷歌或Bing等进行网页搜索所需成本的100~200倍。也就是说,若免费提供基于云端的生成式AI,将需要天文数字般的运营费用。
OpenAI去年的营业亏损规模约为5亿4000万美元,今年的亏损规模预计较上年扩大数倍。因此,OpenAI自上月中旬起暂停了每月支付20美元即可使用的付费服务“ChatGPT Plus”的新用户注册。OpenAI上月表示“将暂时停止新用户注册”,但一个多月后的现在仍只能登记在等候名单上,无法新注册。加入ChatGPT Plus后可使用OpenAI最新的LLM“GPT-4”及生成图像的生成式AI“DALL·E”,这些服务相比原有的GPT-3.5必需多得多的参数与运算。单个消费者每月支出的20美元难以承担生成式AI基础设施建设费用及相关电费,因此为实现可持续的生成式AI服务,端侧AI也成为必需。
━ 变身“高斯电子”的三星集团……掌握AI主导权 Samsung Electronics同样计划通过基于端侧的AI,在被称为“第二个iPhone时刻”的生成式AI市场掌握主导权。Samsung Electronics曾在上月于首尔研发园区举行的“三星集团 AI论坛2023”上公开由三星研究院开发的生成式AI模型“三星集团高斯”。三星集团高斯由△文本生成模型△代码生成模型△图像生成模型三部分构成。三星集团方面表示:“使用搭载三星研究院开发的各种端侧AI技术的产品时,消费者无需传输个人信息即可更轻松便捷地实现设备控制、文句摘要、语法校正等功能”,并称“Samsung Electronics计划将这些生成式AI模型分阶段搭载于各类产品”。利用三星集团高斯,与外国人通话时还可实现实时口译等服务。
Samsung Electronics为端侧AI也在加快强化自研AP的AI性能。Samsung Electronics今年10月公开的“Exynos 2400”相比前作“Exynos 2200”,中央处理器(CPU)性能提升1.7倍,人工智能(AI)性能更是提升多达14.7倍。据悉,Samsung Electronics将在下月上市的Galaxy S24普通版中搭载Exynos 2400,并计划今后凭借压倒性的AI性能提升Exynos在全球AP市场的存在感。Samsung Electronics自2019年推出的“Exynos 9820”起使用自主开发的NPU架构。
占据全球智能手机操作系统(OS)市场70%以上的安卓OS服务商谷歌,也在积极开拓端侧AI市场。谷歌计划将本月公开的“Gemini Nano”模型搭载于两个月前上市的“Google Pixel 8 Pro”,预计将展现差异化的端侧AI竞争力。Gemini的“Nano 1”模型参数为18亿个,“Nano 2”模型参数约为32亿5000万个,这些模型的下载容量仅约1GB,预计可实现优化的端侧AI。
考虑到“Gemini Nano”的参数仅为ChatGPT参数(1750亿个)的百分之一,外界也对其性能提出担忧。另一方面,谷歌认为,智能手机上可使用的简单文本型回答等仅凭Gemini Nano即可实现。在日益“高位趋同”的智能手机市场上,若生成式AI崛起为核心竞争力,谷歌就有可能夺走Samsung Electronics与苹果相当部分的份额。
━ 高通·联发科“手机用AI?没有我们的芯片可不行” 随着端侧AI市场崛起,AP设计企业在神经网络芯片(NPU)技术高端化上的竞争也将加剧。高通在今年10月举行的“骁龙峰会2023”上公开“第三代骁龙8”,强调其在NPU领域的竞争优势。高通高级副总裁亚历克斯·卡图济安当时表示:“经过6年努力,高通的NPU性能在骁龙计算平台上提升了约100倍”,“其中新的‘Hexagon’NPU性能比竞争对手产品高出4倍以上”。这意味着第三代骁龙8是针对生成式AI服务优化的产品。
实际上,第三代骁龙8可处理约100亿个参数,约为“Gemini Nano”参数的5倍,该AP搭载的Hexagon NPU具备45TOPS(1TOPS=每秒可运算1万亿次)的性能。
也有观点认为,高通可能携手科技巨头主导端侧AI市场格局。高通今年7月公布与Meta的合作计划,表示将使Meta自研LLM“Llama 2(LLaMA 2)”能够在搭载骁龙最新型号的智能手机上运行。
今年二季度在全球AP市场取得30%份额(Counterpoint数据)、多年来稳居全球AP市场份额第一的联发科,上月也推出强化AI性能的“天玑9300”,全力抢占端侧AI市场。
天玑9300搭载了联发科自主开发的NPU“APU(AI Processing Unit)790”。APU790将目前被归为生成式AI技术标准的基于“Transformer”的生成式AI处理速度提升至前作的约8倍,AI性能大幅强化。基本运算速度提升2倍以上,而能效提升约45%,同样引人注目。
此外,天玑9300可处理最多330亿个参数,是“第三代骁龙8”的3倍以上。首次支持将LLM针对特定用途优化的微调技术之一“LoRA(Low-Rank Adaptation of Large Language Models)Fusion”,也是其优势。
全球第一大代工企业台积电的最大客户苹果,预计也将在明年推出的新款AP上进一步升级AI性能。
苹果在最近推出的AP上已将AI性能提升一倍。搭载于苹果“iPhone 15 Pro”系列的AP“A17 Pro”配备了苹果第七代神经引擎,性能达35TOPS,比“A16 Bionic”的17 TOPS高出2倍以上。不过,鉴于高通近期公开的第三代骁龙8所搭载的Hexagon NPU性能达45TOPS,预计此后推出的“A18 Pro”系列NPU性能将进一步升级。实际上,预计将搭载于明年9月上市的“iPhone 16 Pro”系列的A18 Pro AP将采用台积电第二代(N3E)3纳米工艺制造,由于AP微细工艺竞争已接近极限,预计将以AI性能高端化作为差异化卖点。
━ 中国vivo·小米,借AI热潮销量猛增 端侧AI市场的扩大预计将带动智能手机需求扩散。市场调研机构摩根士丹利预测,明年智能手机出货量将比今年增长4.0%,2025年增长率将达4.4%。高盛也预计,明年智能手机出货量将同比增长3%至11亿8600万台,2025年出货量将增长5%至12亿9000万台。
对这一AI市场变化反应最快的是中国。中国手机企业vivo上月公开了新款手机“X100”和“X100 Pro”,据悉这些机型的销量大幅超过前作。BlueLM的参数据称约为适合端侧AI的70亿个,vivo方面认为BlueLM的差异化性能带来了如此高的销量。作为性价比手机代名词的小米今年10月推出强化AI性能的旗舰手机“小米14”,该机型销量一周内突破100万台,业内评价“小米复活了”。小米今年升级了数字助手“小爱”,据悉小爱的端侧AI参数约为60亿个。小米也认为端侧AI功能升级带动了销量增长。中国即便推出端侧AI,因技术力较低而在全球关注度不高,但凭借“爱国消费”等,本国内的手机需求依然稳固。这也是其即便服务品质不及苹果、三星集团、谷歌等全球科技巨头,仍能推出实验性AI产品的原因。
IT业界相关人士表示:“目前推出的生成式AI服务在用于编码等基于软件的简单重复性作业时使用性很高,因而受到开发者青睐,但普通人尚未感受到足以改变日常生活的使用价值”,“相反,若端侧AI服务全面展开,短信撰写及实时口译等在智能手机上可实现多样化应用,或将成为生成式AI市场扩大的引爆剂”。






