假如GPU会说话，大模型运行时的口头禅大概是：“我这边算完了，下一步的数据呢？”
在大模型训练和推理中，一颗GPU往往难以独立完成全部计算。它办完当前这一步，还得等其他GPU传来中间结果，或者等新的任务数据到位，才能继续往下走。
协同的GPU越来越多、交换的数据越来越大、通信越来越频繁，问题就格外扎眼：GPU算力本身不缺，可关键数据还在半路上。
数据为什么总在半路打转？不妨先看两种典型的并行计算场景。
以张量并行（TP）为例。大模型体量太大，单颗GPU扛不动，任务只能拆给多颗GPU分担。每颗各管一块，可每算完一步，大家就得互换中间结果，才能进下一轮。这类机制对同步要求极高，稍慢一点，整套计算就跟着卡住。
这就像团队里的4个人合作填一张几百万行、上千列的巨型表格，表格还带公式联动，每填完一列，系统就要汇总一次。只要有人落后，其他人也得停下来等结果。大家看似都在忙，实际上不少时间花在等待和同步上。
TP里的多颗GPU，就是这4个打工人的缩影。中间结果对应那一次次“合计”，谁没算完，其余只能原地待命。
如果说TP像打工人共填一张表，专家并行（MoE）则更像跨部门推进一个大项目。
业务部门拿到项目材料，项目指挥中心要反复找不同专家搭手，技术、数据、财务都可能得对接，来回沟通、跨工位奔波成了常态。偏偏这些专家不坐在一起，而是散落各处（对应不同的GPU），每次找人、对接、传资料，都要花时间周旋。
业务一变，要找的专家随之而变。某位专家处理完，结果还得送回业务部门，再进入下一轮判断和分发。MoE里的GPU正是这样，模型按输入内容把任务分发给不同的“专家GPU”，专家算完，结果回传、汇总，再进入后续处理。GPU之间于是免不了频繁的任务分发、结果回传和数据汇聚。
更麻烦的是节奏往往很快：业务部门不能上午把材料给法务、下午才想起找技术，GPU也不可能算完一步，再慢慢等下一份关键数据。
通信墙：导致GPU“摸鱼”的那道坎
当关键数据还在半路上，计算只能暂时搁浅。而拖慢算力的这道坎，就是“通信墙”。它指的是数据传输跟不上计算节奏、让算力在原地空等的瓶颈。
TP和MoE实现路径不同，但对GPU互联的要求都相当高：数据量大，传的全是模型计算里的关键内容；交换频繁，计算每推进几步就可能通信一次；时延敏感，当通信无法被后续计算掩盖时，数据不到位，任务就停摆。
这几条叠在一起，光靠“把GPU堆得更多”显然不够。若关键数据送不到下一位手里，再多算力也只能原地等待。一颗GPU等待，可能牵动一组GPU等待；一组等待，又可能拖慢整轮计算。所以要让GPU少“摸鱼”，关键在把连接做扎实，让关键数据以足够的带宽、足够的低时延，尽快送到该去的地方。
怎么送？关键有两条：一是路要宽，吞吐量做上去，关键数据就能送得够多；二是跑得快，时延压下来，数据到得及时，下一位拿到就能接着算。而这需要从机柜内、到柜间、再到连接方式，一层层落实。
OEX：先让机柜内的GPU沟通更直接
OEX要做的事，就是把这圈绕路在机柜内部尽量缩短。
中兴通讯（HK0763）OEX（Orthogonal Electrical eXchange）超节点机柜，可不只是把更多GPU塞进一个机柜，而是围绕AI计算的高频通信需求，对计算、交换和互联能力做系统化组织。其中一项关键创新，是正交无背板互联交换架构。传统高密度互联里，线缆、背板和连接关系越复杂，信号传输、散热、维护和扩展的挑战就越大。OEX让计算模块与交换模块正交布局、直接互联，把背板和复杂线缆的局限压下去，机柜内连接结构更清晰，数据路径也更直接。
就像是给那张Excel装了一组“瞬间直达”的联动公式：哪一列一更新，其他列立刻取到最新值，中间的抄传、递送几乎清零，谁都不用再干等别人慢慢把数据送过来。它给高带宽通信打下的基础更实在，既压缩了复杂连接和中间环节，又缩短了信号传输路径，还能支撑高密度部署，同时兼顾供电、散热与运维。
Matrix集群超节点：
让多个OEX机柜组成更大的协作单元
当模型规模继续扩大后，一个机柜内的GPU可能就兜不住全部任务了。这时，参与同一张“超级Excel”的GPU，或处理同一项目的“专家GPU”，可能分散在多个机柜里。
Matrix集群超节点，瞄准的正是多机柜GPU协作需求。在柜间互联的路线选择上，中兴通讯（HK0763）同步推进“电交换+光互联”主流路线与“光交换+光互联”前沿探索两条路径。而这背后，是智算行业的一个趋势：互联的带宽和时延，会成为新一轮较量的关键。芯片再强，关键数据送不到位，GPU 也只能在等待里“摸鱼”，算力便打了折扣。
从OEX超节点机柜内的正交无背板互联，到构建万卡的Matrix集群超节点，再到光互连探索，中兴通讯（HK0763）希望把横在GPU之间的“通信墙”逐步拆开，让算力真正流动起来，与众多产业伙伴携手让更多AI算力用得上、跑得快、算得实，共同推动智能计算向更高效率与更广应用迈进。
