近日,国际数据公司(IDC)发布《中国AI软件市场半年度追踪,2025H2》报告。数据显示,2025年中国大模型训推公有云市场规模达到79.38亿元,阿里云市场份额为42.2%,同比增速116%,位列第一。
PAI平台覆盖AI训练与推理全流程
报告指出,大模型训练和推理对GPU算力的需求持续增长,高效调度异构算力、优化推理性能、降低单位Token成本是训推平台的核心能力方向。
阿里云人工智能(885728)平台PAI覆盖数据处理、模型训练、推理服务等环节,结合自研分布式训练加速引擎,通过数据集加速、计算加速、优化算法和智能调度等优化能力,可支持千卡至万卡规模的训练任务,为各类复杂模型提供高性能的算力服务支撑。
训练与推理场景的具体表现
训练场景:PAI支持超大规模集群协同与节点间高带宽低延迟互联,Qwen3.5MoE模型训练加速比提升3倍
推理场景:通过KV Store多级、全局跨实例、持久化存储复用,PAI在Agent场景中KV Cache命中率达90%以上,相比开源框架TTFT下降30%,TPS提升40%
MoE模型部署:PAI推理引擎对MoE模型EP部署优化后,并发提升50%,输出TPS提升57%
目前,PAI已广泛服务于智能驾驶、具身智能、互联网等领域企业。
