去年我们见证了生成式人工智能(AI)影响企业的所有环节并主导变革,从企业使用的数据到人力管理、运营模式乃至企业整体战略。然而,AI带来的商业变革才刚刚开始。2024年将是AI技术又一个重要的年份。而信任将成为企业运用AI时决定成败的重要因素。
近期IBM商业价值研究院发布了包含今年AI五大值得关注趋势的《2024年AI五大趋势》报告。其中最引人注目的内容是,许多企业将从“加(+)AI”战略转向“AI+”战略。这意味着不是把AI应用于既有业务,而是以AI为基础来制定业务战略。引入AI是确保竞争力的必备条件,但缺乏一致性的AI引入容易浪费预算并导致失败,因此要从一开始就着眼于AI引入来制定经营战略。
另一点是,能够有效利用AI能力并作出战略性应对的人,将取代做不到这一点的人。今年生成式AI将影响组织内所有职务和职级。可以说,企业能否成功引入AI,取决于员工是否愿意接受再培训并适应新的角色。因此企业需要建立可信赖的AI治理体系,在员工之间构筑对AI的信任,并设计出人与AI顺畅协作的机制。
第三点是,随着生成式AI应用增加,数据管理不再是信息技术(IT)部门的问题,而成为整个企业的问题。生成式AI必须以可信赖的数据进行训练以防止幻觉或偏见信息,在使用生成式AI时必须保护企业内部数据不外泄,还必须彻底防范因生成式AI引发的网络攻击或敏感信息泄露等,因此生成式AI与数据保护、信任问题将成为主要议题。此外,为使企业能够适应急剧变化的环境,需要可信赖的运营模式,而生成式AI将提供对各种外部冲击的可见性与应对能力;构建生态系统将成为必备的竞争优势,为此生成式AI的引入与客户信任、伦理考量等须取得平衡——这些也是报告中作为主要启示加以论述的内容。
今年生成式AI将对组织的成功产生更大影响,但与此同时也将要求以人为本的方式,在利用AI技术潜力的同时确保负责任、合乎伦理的使用。归根结底,在引入生成式AI的过程中如何确保“信任”将成为关键,商业领袖们也因此背上了必须在技术与信任之间取得平衡的课题。






