Astera Labs 推出 Leo X 智能内存控制器:将 KV Cache 从加速器卸载到外部内存

2026-09-16 15:32:30
来源:IT之家
分享
文章提及标的

IT之家9月16日消息,芯片高速互连初创企业Astera(ALAB) Labs美国加州当地时间15日宣布以Leo X、Leo2E、Leo2P三系列丰富其Leo智能内存控制器产品线。

Leo 2E、Leo2P是符合标准CXL3.2规范的芯片,支持4个下游DDR4/DDR5内存控制器。Leo2E支持PCIe Gen61×16单端口配置;Leo2P则在此基础上允许2×8双端口配置,实现附加内存的池化和共享。

与此同时,Leo X系列是一款基于网络架构的智能内存控制器,专为直接满足AI加速器侧的内存需求而设计。

该系列芯片可与Astera(ALAB) Labs的Scorpio网络交换芯片配套使用,通过PCIe和平台专用协议实现GPU的横向扩展,提供专用的内存层以卸载KV Cache和智能体上下文。

Astera(ALAB) Labs表示Leo X系列为GPU访问KV Cache提供了更低延迟、更高带宽的通道,能将首词元延迟缩短多达62%、词元吞吐量提升多达22%。

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME