2023-08-23 | 라스베이거스=정혜진 특파원

[现场]推出生成式AI“预制套餐”的VMware:“没有GPU农场也可行…与英伟达合作”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

22日(当地时间),VMware年度最大规模会议“VMware Explore 2023”在美国内华达州拉斯维加斯威尼斯人会议中心举行。在7000多名开发者和合作伙伴参与的现场,英伟达首席执行官(CEO)黄仁勋身着标志性的黑色皮夹克,上下装全为黑色,亮相会场。他一手拿着写有亲笔签名、准备赠予少数参会者的英伟达人气产品GeForce RTX 4090包装盒。在AI芯片需求爆发、英伟达股价持续攀升的背景下,四面八方都向黄仁勋发出邀约,他在本年度第二季度业绩公布前一天却飞到拉斯维加斯,其原因引发关注。

大规模语言模型(LLM)训练所需的英伟达AI芯片A100、H100一货难求,价格飞涨,但此次合作的重点在于,即便不构建所谓的“GPU农场(Farm)”,也能打造并运用自有AI模型。黄仁勋强调:“所有企业都在努力将生成式AI技术融入业务,但并非谁都能轻松做到。”“无论金融、医疗还是制造等领域,我们都将让数十万客户能够利用以自有数据构建的定制化应用,发挥生成式AI的协同效应。”

目标客户是那些希望使用生成式AI、却因资源和人力不足而不知如何着手的中小规模企业。通过VMware与英伟达明年初推出的VMware Private AI Foundation with NVIDIA,使用企业可基于所需的大规模语言模型(LLM),运用定制化的智能聊天机器人、助手、搜索、摘要等AI应用。由于所需的基础设施资源、安全功能乃至应用都已齐备,这更接近于用预制菜包做饭,而不必逐一寻找食材、自行研发菜谱。特别是由于企业专有数据自行保管,可摆脱使用公有云时企业专有数据可能外泄的担忧风险,使用企业可自定义模型,并运行包括智能聊天机器人、助手、搜索、摘要在内的生成式AI应用。

当天,VMware首席执行官拉古·拉古拉姆强调:“生成式AI与多云是完美组合。”“优势在于,能够完全保护分布于数据中心、边缘、云等各处的客户数据,同时基于这些数据安全地运行生成式AI工作负载。”他还补充说:“私有AI并不是转向另一个方向,而是为了在生成式AI时代更好地利用多云而设计的概念之一。”

此外,还将提供基于VMware Cloud Foundation构建和提供开源软件(OSS)模型的开放式参考架构。与AI模型社区Hugging Face,以及以最少GPU即可实现AI推理的企业Anyscale、数据一体化平台Domino Data Lab等AI全生态系统的强者合作,其成果是对这些企业的应用进行优化后提供。这些企业是单个企业难以与之合作的对象,但此次合作成果将以开源形式发布,让更多企业受益。目前正在对编程代码生成AI模型“Safe code”进行Beta测试。对此,VMware韩国分公司总经理全仁浩强调:“以前需要使用多个GPU才能构建AI模型,如今效率提升到用一颗4核GPU在4小时内即可完成。”“即使没有GPU农场,仅凭客户拥有的小规模数据和私有云,也能打造并运用AI模型。”

阅读韩文原文