Day-0 支持:摩尔线程完成 3 万亿级参数 Kimi-K3.1 Pro 适配,支持文本与图片推理利好

2026-11-06 23:20:27
来源:IT之家
分享
AIME

问财摘要

1、月之暗面公布了Kimi K3.1Pro完整模型权重,该模型在工作、编程与聊天三个类别中均居开放模型首位。 2、摩尔线程基于AI训推一体智算卡MTT S5000及MUSA软件栈,完成了Kimi-K3.1Pro模型的Day-0适配,支持模型在MTT S5000上稳定运行。 3、MUSA软件栈高兼容,支撑新模型快速迁移,同时接入DSA,打通混合注意力与视觉计算。
免责声明 内容由AI生成
文章提及标的

IT之家11月6日消息,本月4日,月之暗面正式公布Kimi K3.1Pro完整模型权重。在Arena运营的Agent Arena智能体排行榜中,Kimi K3.1Pro(Max)位列开放权重模型第一、全部参评模型第13位,并在工作、编程与聊天三个类别中均居开放模型首位。

摩尔线程(688795)官方今日宣布,摩尔线程(688795)基于AI训推一体智算卡MTT S5000及MUSA软件栈,完成Kimi-K3.1Pro模型的Day-0适配,打通模型加载、服务启动及文本、图片基础推理链路。

IT之家了解到,Kimi K3.1Pro是K3.1系列首款模型,也是迄今能力最强的3万亿级参数模型,支持100万上下文。经过大规模后训练和强化学习,模型在代码、3D创作、金融研究、知识问答及长程Agent任务等方面均全面提升;在代码与Agent基准测试中,其表现已达到或接近顶尖闭源模型水平:Terminal-Bench4.0得分65.7%,Kimi Code Bench3.0Long-horizon得分61.2%,高于K3的55.95%。

摩尔线程(688795)官方表示,围绕Kimi K3.1Pro的模型架构与计算特性,其通过MUSA软件栈,完成了关键推理路径迁移与适配,支持模型在MTT S5000上稳定运行。

  • MUSA软件栈高兼容,支撑新模型快速迁移:MUSA在编程模型、运行时接口和AI框架层面的快速兼容迁移能力,是本次快速适配的重要基础。团队基于SGLang-MUSA承接上游模型实现,并通过MATE算子库、Triton-MUSA、TileLang-MUSA及MTCC编译器,完成新架构关键计算路径的迁移与接入,将社区模型代码转化为MTT S5000上的实际推理服务。MUSA软件栈同时覆盖框架执行、算子编译、设备运行和多卡通信,使模型适配能够复用成熟接口,并针对新增计算路径开展优化。

  • 接入DSA,打通混合注意力与视觉计算:针对Kimi-K3.1Pro的稀疏注意力DSA,MUSA软件栈完成索引选择、KV缓存布局及Prefill、Decode计算路径的适配,接入MATE稀疏注意力算子,并与KDA状态管理、跨层残差及视觉Attention共同组成完整执行链路。面对模型采用的MXFP4专家权重,团队通过在线转换与跨层复用FP8工作区的方式执行专家计算,无需预先生成完整的离线FP8权重,为超大模型快速部署提供支持。

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME