智谱:GLM-5.3-Flash跑在国产芯片上

2026-08-27 07:14:24
分享
AIME

问财摘要

1、为收集用户反馈,GLM-5.3-Flash在发布前以匿名模型Ox-Alpha在OpenCode和OpenRouter上进行了大规模测试。这些请求流量全部由国产芯片提供算力支持。 2、智谱表示,国产芯片集群在大规模流量中提供了服务,采用生产级Encode–Prefill–Decode(EPD)分离式架构,实现了高效、可靠的服务。与同一硬件上的初始基线相比,端到端服务性能提升了3倍,硬件效率和单token成本已达到与主流英伟达GPU相当的水平。
免责声明 内容由AI生成
文章提及标的
智谱--
Alpha--
英伟达--
查看股票机会下载客户端

人民财讯8月27日电,8月26日晚间,智谱(HK2513)官微发布,为收集广大用户的广泛、专业反馈,GLM-5.3-Flash在正式发布前,以匿名模型Ox-Alpha(ALP)(中文社区称作“牛来”)在OpenCode和OpenRouter上进行了大规模测试。Ox-Alpha(ALP)迅速成为当周最受欢迎的模型,创下双平台调用量新高。而这些请求流量全部由国产芯片提供算力支持。

“过去一周,我们首次在大规模流量中尝试用大国产芯片集群提供服务,这些芯片通过自研高带宽互联网络连接。”智谱(HK2513)表示。

在集群层面,该公司采用生产级Encode–Prefill–Decode(EPD)分离式架构,将多模态编码、prompt预填充和逐token解码拆分为可独立调度、独立扩缩容的工作池,从而在国产加速芯片上实现了高效、可靠的服务。

“与同一硬件上的初始基线相比,端到端服务性能提升了3倍,硬件效率和单token成本已达到与主流英伟达(NVDA)GPU相当的水平。这证明国产芯片完全可以在大规模场景下高效、经济地支撑前沿模型的推理需求。”智谱(HK2513)称。

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME