2026-05-08 | 실리콘밸리=김창영 특파원,박민주 기자

输出价比输入贵6倍…硅谷以Token计费谋求变现

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

"假设有一位年薪50万美元(约7.44亿韩元)的工程师。如果到年底他没有在token上花掉25万美元以上,我会非常担心。"

这是英伟达首席执行官黄仁勋3月在年度最大技术大会"GTC 2026"最后一天做客某播客时所说的话。他强调:"不使用人工智能(AI),就等于用纸和铅笔做芯片设计",称有能力的工程师应把年薪的一半用于购买token。他提议向公司全体工程师在基本工资之外再发放年度"token预算"。

业内不少人认为,黄仁勋的发言既是对token消耗重要性的远见,同时也是为扩大英伟达图形处理器(GPU)需求的战略性讯息。因为token消耗越多,处理它们的GPU需求就越增加,最终转化为英伟达的营收。

在美国硅谷,以token使用量排名评价开发者能力的氛围正在扩散。Meta不时公开token使用量前250名,激励内部竞争。据The Information报道,在Meta命名的公司内部token使用排行榜"Claudionomics"上名列前茅的员工,还会被冠以"token传奇"或"会话不死者"之类的称号。如今正进入这样一个时代:必须大量使用可折算为token的AI工具才能提高生产率,而消耗量则决定开发者能力、企业价值和经济规模。

token是大规模语言模型(LLM)等AI模型在学习和推理过程中处理的最小数据单位。就像计算机以0和1的二进制存储文字一样,AI把信息拆分为字符或标点后识别为token。AI理解所输入指令时生成的token为输入token,在回应指令时生成的token为输出token。用AI智能体进行推理时,每个任务单位需要数千个token。

token生态大致由硬件、基础设施、模型三个层次构成。像英伟达这样的硬件企业制造Blackwell等图形处理器(GPU),卖给谷歌这样的云企业。谷歌、亚马逊、微软等承担基础设施的云企业,除英伟达GPU外还自研更便宜的芯片来运营云服务,同时打造Gemini这样的LLM,以服务调用方式(API)出租给AI模型公司。Anthropic或OpenAI这样的AI模型公司则从云企业租用基础设施,构建AI模型,再以API形式销售给一般企业或个人。在这一过程中,按推理量计费所使用的单位就是token。也就是说,英伟达(硬件)用高性能GPU降低token生产成本后,承担基础设施的谷歌或运营模型的Anthropic就能向客户提供更低的价格。

科技巨头不仅在公司内部,也在向客户企业强调:使用token就是企业竞争力。英伟达在自家博客上强调:"每token成本是决定企业能否有盈利地扩展AI的重要因素","英伟达提供业界最低水平的每token成本"。

处于生态前端的AI模型运营商正在减少免费使用或包月制,并迅速推广"token计费"。OpenAI和Anthropic等主要企业正按与实际使用量成比例的token单位计费来构建盈利模式。输入和输出过程都计费。目前以OpenAI为准,输入token每100万个2.5美元,而输出token每100万个15美元,贵6倍。因为AI生成答案的过程所需运算远多于读取问题。

尤其像英伟达Blackwell这样的高性能芯片本身价格昂贵,却能更便宜地产出更多token。例如亚马逊、谷歌、微软(MS)等云企业使用Blackwell,租用费比英伟达H200贵2倍,但生产一个token的成本降至三十五分之一。结果云企业能以更低的价格向一般企业客户提供API。其逻辑是,英伟达的高性能芯片降低亚马逊的token生产成本,从而提升亚马逊乃至亚马逊客户的竞争力。

尤其是即将进行首次公开募股(IPO)的AI企业,为消除此前的AI泡沫争议,正专注于变现。

Anthropic宣布将企业级产品"Claude Enterprise"由包月费率制转为基于token的费率制,对额外使用量另行收费。还把令用户热衷的Claude Code从廉价的小额包月服务中剔除。

OpenAI也在本月初对AI编程智能体Codex引入基于API token使用量的费率制。同时把GPT-5.5标准旗舰的使用费上调了2倍。

虽然并未推进上市,但作为最大开发者平台的GitHub决定对AI编程工具"Copilot"用户在基本订阅费之外加收费用。

然而也有批评认为,以token效率为名刺激需求加重了消费者负担。因为即使token单价下降,随着智能体型AI扩散、使用量暴增,实际的AI支出反而在增加。对于OpenAI把每token价格上调2倍、Anthropic把编程工具从包月服务中剔除,消费者的批评也纷至沓来。

特别是以token使用量为基准的费率制存在使企业难以管理成本的缺点。美国企业支出管理平台Ramp分析称:"如今AI已成为企业支出分类中增长最快、同时又最缺乏管理的领域","随着从按账户计费的费率制转向波动性很大的token计费制,出现了财务团队无法准确掌握支出的盲区"。

阅读韩文原文