IT之家6月16日消息,北美-欧洲AI芯片初创企业Tensordyne当地时间15日宣布推出AI推理系统Tensordyne Napier(TDN),宣称其可实现NVIDIA Blackwell系统17倍的按Token(词元)计能效和13倍的吞吐量。
TDN平台由Tensordyne与博通(AVGO)、HPE瞻博网络(CRNT)合作开发。其核心Napier处理器已成功流片,正以台积电(TSM)3nm制程工艺生产。
IT之家了解到,Napier芯片采用对数数学设计,这意味着可用更简单的加法运算替代AI推理中的大规模乘法操作;此外其芯片集成大量SRAM缓存和HBM内存,处理器间通信延迟<1μs。
基于Napier,Tensordyne构建了集成72颗算力芯片TDN的TDN72“推理舱”,而一个机架/机柜可容纳四个“推理舱”,从而集成288颗芯片。机架级TDN系统可以1000Token/s/user的速率进行T级LLM推理,每年额外创造多达3300万美元的收入。
