中国大模型训练如何突破算力瓶颈
来源：
财闻
中国大模型虽持续缩小与美国的性能差距，但因训练算力存在数量级劣势，陷入“追近、再被拉开”的循环。效率提升虽能追赶，但受“杰文斯悖论”影响反扩算力需求，且易被美国吸收叠加十倍算力重新拉开差距。
训练算力供给包含算、存、连、管、供五要素。算力需求由规模定律决定，供给则要求将数万张卡连成“一台机器”。英伟达凭借覆盖芯片、网络与软件的系统及网络效应掌握定价权。
中国训练算力现状为四项有短板：高端GPU受制且自研算力不及英伟达一半；HBM采购切断且国产良率低；互联与软件生态待补齐；仅电力充裕。单卡算力不足致所需卡数倍增，利用率难维持，分散的智算中心亦无法拼成“一台机器”。
突破路径分三阶段：短期以系统补单卡(如华为超节点，以电换算)、模型提效(如混合专家架构)及在许可内用好进口芯片；中期推动国产GPU与HBM产能爬坡、软件开源，政府需以奖励机制促成国产体系首次前沿规模训练验证，并培育第二套体系防风险过度集中；长期攻克以光刻机为首的核心设备与人才瓶颈。三阶段均争夺同一目标：依靠自身力量把几万张卡变成一台机器。(经济观察网)
0人
