关注信息技术(IT)市场的读者朋友们,大家好。虽然我工作时间不算长,但这样的春节假期还是第一次遇到。
深、度、求、索。最前沿的科技议题铺满整个节日,这种感觉实在新奇。本周韩国的日历满是红色,而由于这家中国AI公司的出现,美国股市却被染成一片蓝色。作为AI半导体龙头的英伟达股价在27日(当地时间)暴跌近20%。
29日凌晨看到英伟达股价没有进一步大幅下跌时,我忽然开始好奇:DeepSeek的“低价型”AI是否意味着英伟达的终结?博通等美国半导体公司是否再也无法像现在这样向市场出售AI芯片?SK海力士高带宽内存(HBM)的超级景气期是否就此落幕?
综合专家的声音和业界各处的多种分析来看,“以DeepSeek来预判AI芯片高端化的终结为时过早”。下面介绍我采访和学习到的内容。
━ ‘H800·FP8’…就凭这些超越了OpenAI?
DeepSeek确实令人震惊。为规避美国的半导体制裁,英伟达向中国供应的是性能比一般“H100”GPU大幅削减的“H800”,而DeepSeek凭它就做出了这样的成果。
更成为话题的是“浮点数”。如果您是[姜海玲的高端科技]的读者,对这个术语应该很熟悉。我在介绍NAVER集团和Samsung Electronics的Mach-1芯片开发时曾说明过。
工程师可以用32个0或1,即32比特,来表示实数(real number)范围内从-3.40×10的38次方到3.40×10的38次方之间约40亿个十进制数。这就叫浮点数。32比特的情况也被称为“FP(Floating Point)32”。
浮点数可以用32比特表示,也可以压缩为16比特(FP16)、8比特(FP8)来表示。压缩数值的同时也会带来缺点:数据变简单后运算更快,但精度也相对降低。
那么,DeepSeek用的是FP8,加上数据传输速度非常憋闷的硬件H800。而其竞争对手OpenAI则用H100以上的最高端GPU、精度更高的FP16打造了大语言模型(LLM)。
尽管如此,DeepSeek最近公开的R1模型却声称与LLM业界头号明星OpenAI的o1“on par”,即几乎相当甚至更优,而且确有实物,因此业界陷入震惊。分析认为,引入工程师介入AI运算、对更优结果给予奖励的强化学习(Reinforcement Learning),以及能生成高纯度数据的知识蒸馏(Knowledge Distillation)等既有企业未曾尝试的创新性精华流程,起到了作用。据说多年来进行巨额投资的全球AI竞争对手们也大为吃惊。
━ 真的只花了78亿韩元? 问题在于成本。有必要审视一下这是否真是低成本做出来的AI。
此前媒体报道称,实现R1投入的费用为558万美元(约78亿韩元)。业界为之兴奋,称这是不到美国大型科技企业AI训练费用10%的巨大创新。
但这里有需要更仔细看清的部分。首先,DeepSeek R1是在AI实现阶段专门面向“推理”的模型,是在既有训练模型V3基础上经过微调(fine-tuning)的模型。在DeepSeek正式发布的技术报告中,并没有提到实现R1花费了78亿韩元的语句。
花费78亿韩元的是比R1更早公开的训练模型“V3”。使用2048张H800也是在实现V3时。因此从V3过渡到R1时又追加投入了多少费用和GPU,难以确认。一位AI专家解释说:“像R1这样的推理模型,通常会把数据递归地注入前序模型的输出结果中”,“因此把前序模型的实现费用也累加计算才是真实成本”。也就是说,应看作78亿+α。
更令人存疑的部分也出现在V3技术报告中。关于实现V3所用的78亿韩元,DeepSeek解释称“仅包含V3的正式训练,不包含前期研究和消融实验相关费用”。也就是自己说明了这只是部分费用。
从这个角度看,DeepSeek为实现R1,除78亿韩元外还投入了R1实现的追加费用+V3之前的数据构建费用等,实际投入的资金远多于市场所知;甚至有传言称,在实现V3之前的模型时曾运行数万台H100,这听起来也颇为可信。因此,中国用80亿韩元就能轻松超越OpenAI、只要2000张GPU就能做出LLM的真正AI大众化时代已经到来、韩国这些年究竟在干什么等主张,恐怕还需要再观察一段时间。
━ 英伟达与AI半导体业界就该如此绝望吗
那么现在该看看我们最关心的问题:英伟达或博通会就此崩塌吗?未来谁都无法预测,但我谨慎地倾向于认为英伟达危机论为时过早。理由有两点。
首先,即便推出了价格极低模型的DeepSeek,也仍然渴求高性能GPU和HBM。看看刚才提到的V3报告:其中提到,为克服FP8的缺点——误差,需要“实现34比特累加精度的下一代GPU”。
向ChatGPT求证得知,现存最高端GPU Blackwell也无法实现这种规格。虽然DeepSeek没有具体提及GPU合作方的公司名,但推测这是对英伟达的要求与示好。
关于HBM的内容也没有遗漏。其中还有暗示两年后将全面开花的定制HBM的表述。这也可以被解读为向SK海力士等HBM强者释放提示的信息。
第二,今后美国的AI军备竞赛进一步升温的可能性依然存在。英伟达和IT业界对中国AI生态的出现感到紧张,这是明确的。不过,推理模型高端化和数据轻量化的课题仍然无穷无尽,因此认为今后会有更多投资的专家意见也相当多。美国还有必须压倒中国的政治问题,因此即便更贵,也会有意愿用性能更好的GPU或定制AI芯片快速实现更轻量化的模型。业界相当关注即将举行的微软、Meta等主要AI大型科技公司业绩发布会上会对设备投资(CAPEX)作何表述。
对内存强者Samsung Electronics和SK海力士也是如此。不仅是使用HBM的英伟达芯片,市场上还能感知到以LPDDR DRAM等寻求推理用芯片组变化的动向,若能积极应对市场,在内存领域同样完全可以创造机会。
预计短期内因DeepSeek的出现,科技业界会相当忙碌。我会认真跟踪DeepSeek与AI创新,一有热腾腾的消息就向大家报告。
新年多福,剩下的假期也请与[姜海玲的高端科技]同行。






