小WAN聊算网:企业用算,我有“妙招”

来源: 华为官微
中性

  上期:小WAN聊算网

  提到企业云上用算的场景有三种

  那么,华为具体提供了什么样的解决方案?

  本期,小WAN带你秒懂方案

  企业训推需求大,本地算力扩容难

  又要求数据严格不出域

  而能破解这个困局的,就得靠这套硬核方案

  大模型普遍采用深度堆叠的层次架构

  只有首层和尾层能“看见”明文

  中间层处理“看不懂”的高维语义向量

  基于这个特征

  华为创新推出模型分层部署技术

  模型首尾层部署在企业本地

  模型中间层部署在智算中心

  通过智算IP广域无损网络传输中间层高维向量

  云上计算高维向量时可用不可见

  实现企业原始模型+数据不出园区不泄露

  基于流级负载分担和租户级精准流控技术

  构建智算IP广域网的RDMA无损、

  高吞吐的传输能力

  边云协同分布式推理算效95%+

  企业仅需部署少量算力

  就能轻松灵活使用智算中心大算力

  海量计算任务高效交付至云池处理

  实现企业轻资产运营,业务快速上线

  企业云上训练,核心数据上云,安全风险大

  存储重复投资,投入成本高

  企业本地存储的样本数据

  被打包成一个个小包裹,叫“Batch”

  快速传输到智算服务器的内存

  训练完,立刻被下一个覆盖

  边传边训,实现数据不落盘

  该方案支持利旧本地存储

  节省云上自建/租赁存储费用

  采用量子加密技术,保证传输过程中的数据安全

  同样,基于流级负载分担和租户级精准流控技术

  存算分离拉远算效95%+

  企业清洗后的样本数据一般达到2~8TB

  采用传统专线传输,低带宽等不起,高带宽用不起

  通过任务式弹性带宽扩缩容

  实现TB级数据小时达

  网络吞吐率由40%提升到90%+

  同样,采用量子加密技术

  保证传输过程中的数据安全

  基于“任务量+传输时间”计费

  用多少,付多少

  成本零浪费

  为企业提供高效低成本的数据快递弹性IP服务

  华为AI WAN解决方案

  以“高效入算、算网一体”为核心

  深度融合算力与网络

  已在医疗、制造、智驾、航运等

  实现标杆落地

  让算力“无界”,用算“无忧”!

  华为AI WAN解决方案有哪些独家技术

  如何实现广域无损传输和高吞吐

  让训推数据跑的够快够稳

  敬请后续揭秘!

关注同花顺财经(ths518),获取更多机会

0

+1
  • 北信源
  • 兆易创新
  • 科森科技
  • 卓翼科技
  • 天融信
  • 吉视传媒
  • 御银股份
  • 中油资本
  • 代码|股票名称 最新 涨跌幅