执掌云数据分析企业Snowflake的掌门人对人工智能(AI)产业中蔓延的“代币最大化”(tokenmaxxing)现象表示担忧。这是对按员工使用多少token来评价员工的企业文化敲响警钟。由于出现了为炫耀自身能力而虚增token使用量的副作用,即便是积极引入AI的企业也开始指出其反效果。
Snowflake首席执行官(CEO)斯里达尔·拉马斯瓦米1日(当地时间)在美国旧金山开幕的“Snowflake Summit 26”上通过媒体座谈会表示:“我认为仅为了刷高记录的代币最大化是一个糟糕的想法(terrible idea)。”
token是AI模型在学习和推理过程中处理的最小数据单位。AI将信息切分为字符或标点符号后识别为token。以AI智能体进行推理时,每个作业单位要消耗数千个token。代币最大化是指通过最大化token使用量来在AI开发或业务处理上取得成果的行为。
拉马斯瓦米表示:“我有时会与员工分享显示谁在使用AI、使用了多少的仪表板”,并强调“但使用AI并不意味着更有进步性或更有生产力。”他接着补充说:“不过如果完全没有数字,就意味着对AI利用情况一无所知,因此必须谨慎考虑如何运用这些数字”,“这些只是代表我整个团队的很小一部分,不能成为重要标尺。”
执掌全球市值第一企业英伟达的黄仁勋CEO是代币最大化的代表性企业家。他今年3月在一档播客中主张,年薪的一半要花在购买token上才算得上优秀工程师:“不使用AI就等于用纸和铅笔做芯片设计。如果一位年薪50万美元(约7亿6580万韩元)的工程师到年底没有在token上花费25万美元以上,我会非常担心。”他还建议在基本薪酬之外,为所有工程师提供年度“token预算”。
包括英伟达在内的科技巨头率先推行代币最大化,却产生了意料之外的副作用。亚马逊提出80%以上员工每周必须使用AI的目标,以此向开发者施压,但员工采取了投机取巧的做法:向AI智能体(助手)下达不必要的任务以消耗token,从而提高自己的评价分数。这导致公司计算成本上升。最终亚马逊停止了自研的追踪员工AI工具使用记录的工具“Kiro Rank”。金融时报(FT)援引消息人士称,亚马逊工程高级副总裁戴夫·特雷德韦尔叮嘱员工不要为了单纯使用AI而消耗token。
出于同样原因,取消token排名竞争的企业不断增加。Facebook运营商Meta通过排行榜(Claudenomics)追踪8.5万人的token使用量,评选出前250名。员工们为获得“不朽者”或“token传奇”的称号而竞争,但由于token消耗本身沦为目标,抱怨疲惫的声音随之爆发。当月token使用量超过60万亿个、第一名一人就使用2810亿个token,浪费严重,开发Claudenomics的内部员工停止了其运营。
电子商务平台企业Shopify最早引入了token排行榜,但出现副作用后,改用使用情况看板的名称代替排行榜。企业软件公司Salesforce则摆脱只计算token数量的方式,引入了评估智能体处理了多少业务的智能体工作单位(AWU)概念。
随着AI开发商取消月度包月制或上调token使用费,企业的成本负担也在放大。优步今年在Anthropic的编程工具“Claude Code”上大量投入token,结果四个月就用完了年度AI预算,投资回报率(ROI)亮起警报。随着对代币最大化的怀疑论升温,优步引入了AI使用上限制。优步首席运营官(COO)安德鲁·麦克唐纳在播客中表示担忧:“技术研究团队正在使用AI编程服务,但生产力提升并不明显”,“管理层已开始讨论如何管理token消耗成本。”
Snowflake为应对token成本上升,在使用AI时战略性地并行利用高端模型与开源(开放型)模型。拉马斯瓦米解释说:“在判断文本中用户是否生气时,并不需要大模型。事实上这非常容易和简单就能知道”,“以前为了把客户反馈分类为10个类别,数据分析师需要工作好几天,而现在有了只需用你日常英语句子水平的指令就能良好运行的模型。”
拉马斯瓦米表示:“智能体平台的作业不再是一个模型长时间顺序执行的形态”,“要提升生产力,把任何大任务系统性地组织起来很重要。”他还介绍说:“项目中有更重要和不那么重要的部分”,“因此我们开始尝试使用小模型。例如不用Opus,而使用Sonnet模型的方式。”Opus是Anthropic的AI模型Claude的最高级模型,Sonnet则低一档。也就是说,根据推理性质组合高端、中端和免费模型,寻找最优组合以提升收益性。






