有效词元成本将成算力产业关键竞争指标
“支撑人工智能(AI)发展的算力基础设施,正逐渐从‘算力工厂’变成‘词元(Token)工厂’。”在2026年中关村论坛年会上,中科曙光(603019)高级副总裁李斌作出的这一判断,直指当前AI算力产业正在发生的底层逻辑变革。
随着AI产业商业化进程全面加速,行业竞争的标尺正在改变。从过往算力硬件规模的粗放比拼,转向算力利用效率与有效词元供给能力的精细化较量。如何让单位算力产出更多高质量词元,正成为决定算力产业未来格局的关键命题。
近段时间,以OpenClaw(俗称“龙虾”)为代表的AI智能体的现象级火爆,直接推动全球词元需求的指数级扩张。第三方AI模型聚合平台OpenRouter的数据显示,2026年3月9日至15日当周,OpenClaw单家就贡献了平台内20%的词元消耗量;其单周词元消耗规模,已相当于2025年第四季度全平台周均词元消耗量的60%。
AI智能体的规模化落地,正在改写词元需求的增长曲线,也对算力基础设施的供给能力提出了全新要求。正如北京智源人工智能研究院AI框架研发负责人敖玉龙所言,AI产业正从“算力供给”向“有效词元供给”转型,未来有效词元成本将成为算力产业的关键竞争指标。
之江实验室副主任何水兵表示,算力规模的扩张并不等同于词元产出能力的同步提升,调度瓶颈、通信与存储性能短板等问题,均会影响算力释放效率,拉低单位算力的词元产出效率。“以H100万卡集群为例,年度算力成本约12亿元人民币,若算力利用率存在10%的损耗,年度直接经济损失将超1.2亿元。”何水兵举例。
针对行业核心痛点,多位业内专家认为,以超节点为代表的架构创新,是提升算力效率、实现算力向词元高效转化的重要破局路径。超节点通过超高速互连架构,将分布式集群转化为单机化的大机器,从根本上破解传统算力架构的通信瓶颈,实现算力利用效率的量级跃升。
中国电信(601728)研究院云网融合技术研究所智算网络技术负责人王子潇介绍,使用超节点产品,实测推理服务性能较传统单机8卡提升2.6倍,性能的跃升直接降低了同等词元产出所需的硬件规模;中科曙光AI解决方案专家李冉也表示,近日发布的ScaleX40超节点在典型推理场景下,同卡数规模的推理吞吐性能较传统8卡机提升4倍以上,可显著提升单位算力的词元产出能力,为AI产业提供普惠化的算力支撑。
对于产业未来发展,与会嘉宾普遍认为,未来3—5年,算力产业的核心创新将围绕有效词元成本下降展开,算力与应用的深度协同、软硬件全栈优化、全产业链生态协同,将成为行业核心突破方向,推动算力产业从硬件堆叠向系统效能提升转型,真正以高效算力支撑AI与千行百业的深度融合。
0人