“确保图形处理器(GPU)并不意味着结束,而是要节省使用、发挥最大‘性价比’,企业才能持续对人工智能(AI)进行投资。”(IT解决方案业界人士)
随着用于AI模型训练和推理的GPU争夺战长期化,比起大量确保GPU,想把GPU切分使用的需求正在扩大。由此,对GPU成本进行优化和最大化的初创企业也随之受到关注。
19日据信息技术(IT)业界消息,LG U+近期通过2024年事业报告书信息披露表示,去年年末向AI基础设施初创企业Ten投资30亿韩元规模资金,取得9.8%的持股。就在两年前的2022年末,该公司刚获得30亿韩元规模的Pre-A轮投资,如今又成功引入LG U+的投资。Ten成立于2020年,虽可算是较新的初创企业,但近来呈现急速增长态势。这得益于其在把AI训练所用GPU资源利用率最大化的同时,使AI推理也能以GPU资源处理的核心技术实力。此前GPU只能以自然数为单位使用,而通过其代表产品“AI Pub”,可将1个GPU的核心与内存以1%为单位进行分割,最多切分为100个单元,从而同时支持多项服务。据介绍,基础设施成本最多可降低90%。尤其是在中国生成式AI DeepSeek表示其R1模型开发仅使用了最低限度的AI基础设施之后,外界对Ten技术的关注进一步升温。
AI基础设施管理初创企业“Lablup”也在同样脉络下受到业界关注。其代表产品Backend.AI是将AI训练、推理服务全过程与操作系统整合处理的AI基础设施运营平台,通过最优资源分配追求成本效率化。Lablup方面介绍,2023年营业收入接近70亿韩元,并保持盈利状态。
除了自主提升AI基础设施效率的方式外,在既有基础设施上尽可能高效利用AI模型的方式也备受关注。即将进行首次公开募股(IPO)的Nota AI,其优化相关产品的营收占比已超过一半。一位业界人士表示:“在确保GPU方面遇到困难的企业,正趋向于把关注点转向优化AI模型或直接调整AI基础设施本身以实现效率化”,“不过该领域具备竞争力的企业为少数,因此关注度较为集中”。






