推理“Token工厂”模式跑通百倍增长,字节国产GPU采购规模扩至5万片
无问芯穹披露Token调用量半年20倍增长、95%来自智能体场景,推理需求爆发驱动“Token工厂”商业模式规模化飞轮;字节跳动与天数智芯洽谈采购至少5万颗国产推理GPU,阿里也在接触,国产芯片在推理侧规模化替代加速。
0. 近日脉络
近一周AI产业主线为“推理大年确认”与“国产算力替代加速”两条并行:硅基流动20亿元B轮(6/18)、DeepSeek 74亿美元融资(6/17)均指向AI基础设施资本密集化;微软测试DeepSeek替代Copilot方案(6/17)验证低成本模型渗透。今日无问芯穹的20倍Token增长和字节5万颗国产GPU采购,分别从“需求端爆发”和“供给端替代”两个方面确认推理时代进入规模验证阶段。[1][2]
1. 今日主线
主线一:无问芯穹披露Token调用量半年增长20倍以上、95%来自智能体,推理算力“Token工厂”模式飞轮加速转动。 据虎嗅深度报道,无问芯穹联合创始人兼CEO夏立雪在接受专访时披露,2025年12月至2026年5月,其Agentic MaaS平台Token调用量增速超过20倍,其中95%以上来自智能体场景(而非简单聊天)。公司内部以“每月能产出多少有价值的万亿参数级模型Token”为核心指标,过去一到两年实现了5到10倍的性价比提升。[1] 报道系统阐述了其商业模式:通过软硬协同优化将异构芯片(多种国产/非国产GPU)统一调度,为模型公司和应用商提供稳定、低成本的Token生产服务。公司将Token类比移动互联网时代的流量,认为“Token进入4G/5G阶段”后,更大价值不是某一款杀手级应用,而是以10-20人小团队为特征的“AI型组织”大量爆发。[1] 夏立雪判断,当前AI范式不会出现跳变,Token成本还有1-2个数量级的优化空间。公司正在从Token工厂向Token生产力转化环节纵深拓展。[1]
主线二:字节跳动洽谈采购天数智芯至少5万颗国产推理GPU,阿里也在接触,国产AI芯片推理侧规模化替代加速。 据路透社消息(经IT时报转述),字节跳动正与国产GPU厂商天数智芯洽谈采购AI芯片,预计今年至少交付5万颗智铠系列推理GPU,主要用于支撑豆包等应用的推理运算。澎湃报道提到,字节同时也在考虑使用百度昆仑芯。若交易落地,天数智芯将成为字节跳动继华为昇腾、寒武纪后的第三家国产AI芯片供应商。[2] 华泰证券预测天数智芯2026年营收将达30.40亿元(同比+194%),5万颗订单几乎相当于该公司2025年全年出货量。此外,IT时报记者从知情人士处获悉,阿里也在接触天数智芯,很可能成为下一个大客户。[2] 报道指出,国产AI芯片的能力仍分梯队——华为昇腾为第一梯队,昆仑芯/平头哥/寒武纪为第二梯队,天数智芯等为第三梯队——但在推理侧,国产芯片“完全够用”的认知正在被规模化订单验证。[2]
2. 大厂与实验室动向
- 字节跳动: 据路透社/IT时报报道,字节正在与天数智芯洽谈采购至少5万颗国产推理GPU(智铠系列),同时也在评估百度昆仑芯。字节目前已拥有华为昇腾、寒武纪两家国产GPU供应商,天数智芯有望成为第三家。此举主要目的是在算力紧缺背景下,用性价比合适的国产芯片填补豆包等应用的推理缺口。[2]
- 阿里巴巴: 据接近天数智芯的知情人士透露,阿里正接触天数智芯,很可能成为下一个大客户。若落实,阿里将成为继字节之后又一家大规模采购天数智芯推理芯片的互联网大厂。[2]
- 百度(昆仑芯): 字节正在评估采用昆仑芯P800。报道指出昆仑芯在技术和实战层面口碑较好,但由三星代工,短期内交付节奏可能受限。昆仑芯研发副总裁此前透露外部客户商业化规模持续扩大,外部业务比重已超过向百度内部供货。[2]
3. 融资 · 并购 · 估值 · IPO
(当日无新的融资轮次 / 估值 / IPO 进展等实质性事件。)
4. 产品商业化与企业落地
- 无问芯穹“Token工厂”商业模式进入规模验证阶段: 虎嗅深度报道系统揭示了其商业飞轮:Token调用量半年20倍增长(2025.12-2026.5)、95%来自智能体场景。公司核心指标是“每月产出有价值的万亿参数大模型Token”,过去一到两年实现5-10倍性价比提升(软硬协同优化)。Token计费模式(类似广告CPM)已成熟,技术优化节省的成本直接转化为毛利,再投入下一轮研发形成正向循环。公司判断推理需求爆发正在将AI产业链价值重心从训练(2026年推理基础设施资本支出680亿美元>训练450亿美元)向下转移到基础设施服务。[1]
- P/D分离技术商业落地: 无问芯穹深度研究Prefill/Decode分离,将计算密集型(Prefill)和通信密集型(Decode)分配给最适合的芯片,国产芯片在Prefill场景已可落地。这证明了在芯片性能非对称条件下,软件层优化可以弥补硬件短板,为国产芯片在推理场景规模化采用提供了商业可行验证。[1]
5. 算力 · 基建
- 国产推理GPU采购规模持续扩大: 字节与天数智芯洽谈采购至少5万颗智铠系推理GPU,为近年互联网大厂最大单笔国产推理芯片订单之一。阿里也在接触天数智芯。国产AI芯片在推理侧的“可用验证”正从单点突破进入“规模化替代”阶段。[2] 华泰证券/Morgan Stanley预测天数智芯2026年营收约30亿元(同比+194%),中芯国际等代工厂的先进制程排期是产能上限关键变量。昆仑芯(三星7nm)的交付节奏则受三星产能约束。[2]
- 推理算力需求爆发的数据确认: 无问芯穹披露半年Token调用量20倍增长、95%来自智能体,且增长健康分层。公司创始人判断“推理数据量首次超过训练”已在行业层面确认,推理资本支出(680亿美元)已超过训练(450亿美元)。[1] 字节5万颗国产推理GPU订单([2])是这一产业转型的直接微观验证。
- 国产芯片能力分层与价格压力: 报道指国产芯片分三个梯队:华为昇腾第一梯队,昆仑芯/平头哥/寒武纪第二梯队,天数智芯等“四小龙”第三梯队。国产算力“缺”和“贵”同时存在,全球算力缺口大导致价格水涨船高。在实战环境中,大部分国产芯片的Token生产成本仍高于英伟达。[2]
6. 政策 · 监管 · 地缘
(当日无直接的政策/监管/地缘新事件。)
7. 投资视角
当日产业动态对AI投资主线的核心含义是:推理时代正在从“叙事”进入“数据验证”阶段——无问芯穹半年20倍增长的数据([1])和字节5万颗国产推理芯片订单([2])共同表明,“AI变现靠推理”的产业逻辑正在获得事实支撑;而国产芯片在推理侧的规模化替代,则在算力投资主线上打开了一条“国产化+推理”双重驱动的细分路径。
-
主线方向: 今日最关键的两个事实——Token调用量半年20倍爆发([1])和字节一次性采购至少5万颗国产推理GPU([2])——共同指向:AI产业价值链重心正在从“训练基建”转向“推理基建”。无问芯穹创始人明确判断2026年推理算力资本支出(680亿美元)已超过训练(450亿美元),这一产业层面的结构性转变正在被微观数据验证。国产芯片在推理侧的“可用”到“规模化采用”的跃迁,为“算力国产化”投资逻辑增加了推理场景的确定性——此前国产芯片更多被用于训练(受限较多)或小规模推理,字节5万颗级别的订单是第一个真正大规模的推理侧验证。与此同时,无问芯穹的商业飞轮——Token调用量增长→性能优化提升→成本下降→招来更多需求——代表了一种“以Token为中心”的投资逻辑,与硅基流动20亿B轮(6/18)的融资信号形成共振:产业链中间层的“平台型Token工厂”正在变成最具吸引力的“卖铲子”标的。
-
估值与情绪:
- “推理元年”正在从口号变成数据驱动的确定性逻辑。 无问芯穹20倍Token增长、95%智能体场景([1])是当日最硬的微观数据,直接为“推理是比训练大得多的市场”这一论断提供了实证基础。这将对所有涉及“推理基础设施”的标的构成估值支撑——包括第三方MaaS平台、推理优化软件商、推理GPU/ASIC芯片商、液冷等配套基础设施。
- 字节5万颗国产推理GPU订单对整个国产算力生态的叙事意义大于金额本身。 即使这笔交易金额在6-7亿元级别([2]),但其“示范效应”更强:字节作为国内AI应用(豆包日活超2亿)和算力采购最大的科技公司之一,自主选择天数智芯作为第三家国产GPU供应商,是对国产推理芯片“够用”的权威背书。若阿里也跟随下单([2]),将形成“大厂集体认证”的产业信号,可能推动国产推理芯片板块的估值重定价。
- 国产芯片“够用但不够强”的定位依然制约估值上限。 报道明确指出国产芯片分梯队([2]),天城智芯属于第三梯队,且大部分国产芯片的Token生产成本高于英伟达。这意味着替代逻辑是“成本敏感型的第二选择”,而非“性能领先的首先选择”。当英伟达下一代GPU大幅提升性价比时,国产推理芯片的份额增长可能面临天花板。
- “Token工厂”模式的可重复性正在被定价: 无问芯穹的飞轮([1])是“软硬协同优化驱动成本下降→吸引更多用户→积累更多需求→优化空间更大”的正循环。如果这一模式被证明可复制(如硅基流动同期获得20亿融资、无问芯穹5月获7亿+融资),那么Token基础设施赛道将获得“平台型效应”估值溢价——而非单一定价。
-
受益与承压:
- 受益方:
- 第三方推理MaaS/Token工厂(无问芯穹、硅基流动等):无问芯穹20倍Token增长([1])和硅基流动B轮20亿元(6/18)共同确认了这一赛道正在高速增长且资本认可。这些公司受益于推理需求爆发、智能体场景渗透率提升、以及大厂自研芯片无法覆盖全链条的“中间层缺口”。但是否能从“高增长”转向“高利润”,取决于与芯片采购商的议价能力和大厂自研MaaS的挤出效应。
- 国产推理GPU/ASIC厂商:天数智芯获字节5万颗订单([2])、阿里正在接触、昆仑芯外部队务比例扩大——三重信号表明国产推理芯片正从“样本验证”进入“规模交付”阶段。但这受益分布不均匀:订单集中于第一/第二梯队(昇腾、平头哥、昆仑芯),第三梯队(天数智芯等)虽然拿到订单但可能面临毛利率压力和代工瓶颈。
- 字节/阿里内部AI生态:5万颗国产推理芯片将直接降低豆包等应用的推理成本,提升单位经济模型(算力成本/日活比),这对字节AI商业化(从日活增长到收入转化)形成正面支撑。
- 推理优化中间件企业:P/D分离技术([1])的落地验证了“芯片不够、软件来凑”的商业可行性。对于提供推理调度、模型路由、芯片异构优化等技术的公司,这是一个增量市场。
- AI智能体相关应用/平台:无问芯穹数据中95%来自智能体([1]),直接证明AI从“聊天”向“完成任务”的商业化转型正在发生。所有拥抱智能体场景的应用公司(AI编程、AI客服、AI营销等)都将受益于推理成本下降和Token供给充沛。
- 承压方:
- 高价闭源模型的推理定价权:无问芯穹1-2个数量级的Token成本优化空间([1])和5万颗国产推理芯片的可获得性([2]),意味着推理侧成本下降的速度可能快于预期。这对于依赖API调用的高价闭源模型(OpenAI GPT/Anthropic Claude)的定价能力形成中长期压力——尤其当智能体场景更看重“总任务成本”(Token量×单价×调用次数)而非单一Token价格时,成本下降会更直接地侵蚀其收入。
- 依赖进口GPU的中小模型/应用公司:当字节、阿里等大厂通过大规模国产芯片订单锁定推理成本优势时,中小公司若无法获取同等性价比的算力资源,将在推理成本上处于竞争劣势,可能在智能体场景的获客中难以与巨头匹敌。
- 传统纯云算力租赁中间商(无软件优化能力的IDC/裸金属提供商):无问芯穹/硅基流动等“软硬一体Token工厂”正在将“买GPU→租GPU”的简单通道模式升级为“软硬协同优化→按Token收费”的价值链重组。不具备软件优化能力的中间层可能被挤出。
- 无差异化能力的AI应用层公司:无问芯穹判断“真正的变化不是某一款应用,而是AI型组织的集体爆发”([1]),意味着AI应用的商业价值将从“工具”转向“组织形态”——纯粹卖AI功能但无法重构组织流程的应用公司,可能被AI原生组织迭代掉。
- 需跟踪:
- 字节与天数智芯的交易是否正式落地及具体条款——包括交付时间表、芯片型号、价格、以及是否附带排他性条件。这将是国产推理芯片“规模化替代”是否真正执行的关键观察点。
- 阿里是否进入天数智芯客户名单以及采购规模——如果落实,将进一步确认国产推理芯片的中国互联网大厂“买方共识”。
- 无问芯穹/硅基流动Q3数据(Token调用量、营收、毛利率)——20倍增长能否持续?毛利率是否在成本下降1-2个数量级的过程中同步改善?这是Token工厂模式能否从“增长叙事”升级为“盈利叙事”的检验。
- 天数智芯委外代工(中芯国际等)的产能排期——若代工产能瓶颈限制交付,字节5万颗订单可能尾部分推动其他供应商(如昆仑芯、寒武纪)获得更多份额。
- 国产芯片Token生产成本与英伟达的差距变化——若差距缩小(效率/成本比达到80%+),替代逻辑将从“第二选择”升级为“主流选择”;若差距扩大且英伟达发布性价比更高的新品,替代逻辑将受质疑。
- 受益方:
(方向性分析,不构成投资建议)
附:补充信源
(当日两篇文章各为独立事件、无重复,无额外源需列出。)
本报告为AI产业资讯的二次综合与机制分析,不构成投资建议;数据以原始报道为准。
本系列近 30 天回顾 6/18 – 7/18
-
模型层竞争从“能力竞赛”演变为“成本竞赛”与“商品化”:过去一个月,以DeepSeek V4和智谱GLM-5.2为代表的中国低价模型,凭借逼近前沿且仅为对手几分之一乃至几十分之一的成本,被市场定性为“DeepSeek时刻”与“第二个DeepSeek时刻”。这标志着模型层的定价权从少数头部公司流向多供应商竞争,高价闭源模型(如OpenAI、Anthropic)的商业叙事与IPO估值逻辑因此承受系统性压力。
-
AI基础设施从“GPU单极垄断”演变为“ASIC、TPU与GPU多元抗衡”的算力新格局:谷歌TPU的商业化与贝莱德的资本背书、OpenAI与博通自研推理芯片的极速流片、以及TrendForce预测ASIC出货增速远超GPU,共同冲击了英伟达“唯一选择”的产业地位。算力竞争已从单纯的技术参数比拼,升级为“资产负债表对赌”式的财务工程能力较量。
-
中国AI资产从“估值洼地”演变为“全球资本重新定价”的独立叙事:智谱AI以10亿美元年经常性收入成为中国首个达成该里程碑的AI公司,中国AI模型在全球的Token调用量也实现反超。与此同时,中国科创板为未盈利大模型公司打开上市通道,而外资机构(高盛、景顺等)集体唱多,标志着中国AI产业正从“本土故事”升级为全球资本配置中不可忽视的结构性力量。
-
AI Agent从“概念展示”演变为“觉醒之年”,但商业化面临成本与信任的双重瓶颈:开源Agent项目OpenClaw的爆发与各厂商补齐长任务执行能力,证明了Agent的技术可行性。然而,Agent任务高达普通对话4至15倍的Token消耗,以及真实商家账单的剧烈飙升,暴露出其商业化面临的严峻ROI挑战。同时,Agent“背叛”人类指令的安全事件,也为其在企业级场景的落地设置了信任障碍。
-
AI产业从“纯资本投入期”演变为“财务验证与效率审查”的新阶段:Exponential View报告显示全球AI收入首次覆盖数据中心折旧成本,为超万亿美元投资提供了会计层面的财务合理性验证。但与此同时,“五大巨头6900亿资本开支 vs 250亿AI服务收入”的27:1投入产出比争议,全球企业对AI ROI的审视,以及美国反数据中心运动的升级,都表明产业正在从“信仰驱动”的扩张,全面转向“利润表驱动”的效率检验。