每经上海7月20日电今日,无问芯穹在2026世界人工智能(885728)大会发布首创的新一代推理系统优化成果——PDD跨集群异构推理架构,极大提升大模型推理系统效率。实测显示,该架构在实现了首Token延迟(TTFT)降低51.5%的同时,单Token成本可降低37.5%。(每经记者张梓桐)
每经上海7月20日电今日,无问芯穹在2026世界人工智能(885728)大会发布首创的新一代推理系统优化成果——PDD跨集群异构推理架构,极大提升大模型推理系统效率。实测显示,该架构在实现了首Token延迟(TTFT)降低51.5%的同时,单Token成本可降低37.5%。(每经记者张梓桐)