中国联通：算力网络人工智能模型推理算力度量研究报告
2025-09-19 20:02:16
来源：
上海市物联网行业协会
今天分享一份中国联通研究院联合中讯邮电咨询设计院、联通数字科技有限公司联合编制的《算力网络人工智能模型推理算力度量研究报告》，报告系统性地提出人工智能模型推理算力度量理论与方法体系，为算力网络中模型推理的性能评估、智能调度与计量计费提供了技术支撑。
报告聚焦算力网络中人工智能模型推理服务，创新性地提出了“算力消耗量”与“算力使用量”双维度度量模型，包括资源视角的算力消耗量度量，涵盖模型推理业务、算力网络节点、算力网络资源三层指标；用户视角的算力使用量度量，涵盖模型推理使用、算力使用单位两类指标。
报告还系统梳理了模型剖析、并行推理、基本操作数测量等关键技术，并结合ResNet50、DeepSeek R1等典型模型推理进行了实证分析，验证了度量方法的可行性与准确性。
部分内容：
0人
