2024-03-11 | 실리콘밸리=윤민혁 특파원

Salesforce首席伦理官:“企业级AI的生命在于可信度而非创造力”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

“在人工智能(AI)开发中,数据量非常重要,但企业间交易(B2B)市场的规则不同。企业想要的不是最有创意的AI,而是最适合业务的AI。因此在B2B领域,AI的可信度与伦理不可或缺。”

Salesforce首席伦理官(CEHO)保拉·戈德曼(见图)6日(当地时间)在美国旧金山莫斯科尼中心举行的“TrailblazerDX(TDX) 2024”上与Seoul Economic Daily见面时如此表示。她强调:“要打造能回答所有问题的AI,需要世界上所有的数据,但产业优化型AI不必如此”,“在企业级AI中,准确性就是溢价。”意即对企业而言,能对特定问题给出准确答案的AI,比通用但有时给出错误答案的超大规模AI更合适。

Salesforce是全球最大的客户关系管理(CRM)软件企业。福布斯500强企业中约90%是其客户。自然能够收集多数全球企业的销售与营销信息。在数据左右AI性能的当下,这是只有Salesforce才具备的优势。尽管如此,Salesforce仍提出“客户数据不是我们的产品”这一理念。实际上,当天公布的AI CRM平台“Einstein 1 Studio”也强调可将企业数据去标识化后应用于OpenAI“GPT-4”等最新AI模型。

这并非单纯为了显得像“好企业”。Salesforce很早就意识到,争取B2B客户,“可信度”是生命线。戈德曼CEHO解释称:“企业不愿把独占性数据提供给AI学习,在确信之前不会引入平台”,“这就是Salesforce强调‘信任层(Trust Layer)’和AI伦理的原因。”

这一方针也是Salesforce于2019年在科技业界首次设立CEHO这一职位的背景。戈德曼可谓业界首位“伦理负责人”。她强调:“目前公司内部就数据利用方案仍在无休止地争论,这是事实,但技术已变得过于强大、需要安全装置这一点是众所知的”,“随着生成式AI崛起,五年间工作的广度与深度大幅扩展。”

面对AI的急速发展,各国政府正加快引入监管以保障AI的安全使用。戈德曼CEHO同时也是白宫AI政策顾问委员。她表示:“我们无法知道AI将如何、以多快的速度发展,因此只有控制好当下的AI,才能控制下一代AI”,“要让人在未来仍坐在AI的驾驶座上,政府必须制定‘道路规则’。”她接着说:“包括将主办下一届AI安全峰会的韩国在内,全球各国正为制定AI相关法律而努力,我对此寄予很大期待。”

阅读韩文原文