2024 AI 应用海外“淘金”,GMI Cloud King:AI Infra稳定性挑战巨大

2024-12-24 18:22:24 来源: 财经网

  北京时间12月21日凌晨2点半,OpenAI 12天12场直播正式结束,从工具发布到产品升级再到新一代推理模型o3的推出。其间,谷歌发布Gemini 2.0,并推出多个AI Agent成果。双方产品各项性能大幅提升,逐渐打破AI发展陷入瓶颈的质疑。

  反观国内,过去一年快速“卷”起来的百模大战让“降价潮”随之而来,今年9月OpenAI的o1模型发布后,技术平权的信号让不少创业者,从拼技术向卷应用无缝衔接。

  做一款面向全球的产品,几乎成为AI创业者共同的梦想。今年下半年开始,投资人也开始密集出手AI应用,“真实情况可能比表面看上去激烈。”AI投资人Jack表示他已知的至少还有5家未对外披露。

  “尽快、尽早出海”这是和多名AI应用者谈到商业化策略时,绕不开的话题。

  出海正在成为必选项

  曾经基本每个月都有的AI、大模型融资消息,到今年近半年似乎成了“稀罕”事。

  红杉资本在《AI in 2025:Buiding Blocks Firmly in Place》一文中提到,2025年AI生态系统将发生重大转变,从2023、2024的狂热开始进入更有结构的格局,更强调提供实际价值和合理的投资回报。

  目前,业内普遍认为高额融资不会再频繁出现、“烧钱”的基础大模型加大新投入的可能性变小、商业化进程加速、AI应用百花齐放的趋势有了前兆。据媒体报道,高瓴资本、经纬创投、百度风投、英诺等知名投资机构在下半年纷纷加大投资力度,瞄准AI应用领域的早期项目。

  但有意思的是,这些AI应用几乎都有一个共性——所属企业对出海有非常具体的规划,甚至部分应用在海外市场已经验证了其商业化能力。比如今年年中零一万物CEO李开复曾透露,零一万物海外生产力应用营收预期超1亿元,另有消息称在海外推出的AI社交产品Talkie是MiniMax的主要收入来源。

  据非凡产研统计,在全球约1500家活跃AI企业中,中国出海企业已达103家,绝大多数AI产品创业公司集中在应用层,占比高达76%。

  这一现象在GMI Cloud 亚太区总裁 King Cui的眼里是大势所趋,并认为出海是一个必选项。“一些传统互联网广告平台的公告收入开始进入负增长,流量逐步缩减,不做global定位的话,很难获得高增长。”King觉得AI时代出海是一个确定性趋势,但是出海过程中要找准自己定位,做好PMF(Product Market Fit,即产品和市场达到最佳的契合点)。

  近期,GMI CLoud宣布完成了8200万美元(约6亿元人民币)的A轮融资,其主要为AI应用出海企业提供GPU资源的AI Native Cloud服务商。据悉,GMI CLoud拥有遍布全球的数据中心网络,可以为全球新创公司、研究机构和大型企业提供稳定安全、高效经济的AI云服务解决方案。

  而在刚刚经历了融资过程的King看来,“融资难易在不同周期的整个估值体系和融资环境不一样,没有办法把当前的融资困难程度和前些年相比。”

  他回顾四年前加入某大厂时资本环境还是比较宽松的,整个二级市场的流动性也非常好,甚至有头部互联网公司希望拿一些资金把市场上的创业公司都投一遍,无差别全覆盖,所以整个一级市场的投融资比较积极,被投企业的估值也会相对更高。

  “但是这两年多重因素的影响,市场流动性没那么宽松、投资估值也相对谨慎一些,无论机构还是投资人,对商业模式和经济前景要求变得更高一些,所以出现了所谓的融资越来越难的情况。”当下,他认为创业公司要能帮助企业和社会创造价值,并能把商业模式想得比较清楚,让未来投资回报率更明显,依然可以拿到更多一些融资。

  AI企业出海后依旧面临算力挑战

  ChatGPT之后,行业内反复提到的一个问题是:下一个“杀手级”应用何时出现?纵观整个行业,从AI驱动的助手到特定行业的专业工具,都在被探索,出海的AI应用同样是五花八门,目前主要受欢迎的则集中在图片、视频生成和编辑,情感陪伴,效率工具等。

  但是,根据非凡产研发布的2024年11月出海AI WEB月活榜及月活增速榜显示,出海AI WEB流量榜top 100中,超50款产品11月访问量环比下降。显然,要在海外站稳脚跟,并非易事。

  AI 应用出海,除了适应本土化产品需求,技术本身至关重要,King表示AI应用出海绕不开AI三驾马车——数据、算法、算力。在数据层面,要解决好数据传输合规性问题;在算法层面则需要一些比较优秀的人才;在算力层面需要比较稳定安全高效的GPU集群。

  就比如,科技巨头Meta前段时间发布的一个报告显示,Meta用了超过16000张的H100 GPU,训练Llama3 405B大模型,耗时54天出现了466次中断故障。其中有419次是计划外的,而跟GPU相关得高达58.7%,超200次,CPU相关故障则只有2次。

  “可见GPU集群稳定性的挑战是CPU的两个数量级,然而一般AI出海的企业不太具备大规模GPU集群运维的能力。”据King透露,目前GMI Cloud的研发人员中70%是产品和研发相关,核心研发骨干由两个背景构成,一是在智算领域有Infra背景,二是在谷歌等企业有深度学习背景的,前者致力于解决GPU集群在Infra层面的稳定性和突发问题,后者满足客户算法调优的需求。

  “目前我们可以实现K8s的99%的SLA,给AI出海企业提供一个非常稳定、高效的GPU集群,减少企业在这方面的投入,他们可以更加聚焦在整个业务的发展。”

  那如何去实现较高SLA的可能性?King介绍道,Cluster Engine是GMI自主研发的平台,整合了对GPU 芯片、 GPU集群节点、存储以及高效网络的控制。“通过这个平台把GPU集群管理起来后,会以虚拟机或K8s容器的方式进行交付,再把每一张卡的运行状态监控起来,一旦发现某一张卡异常之后,会第一时间把任务重新调度到另外一个容器里,或者另外一张卡去运行。”

  在存储方面,King表示GMI Cloud会根据客户的不同数据应用场景提供合适的存储解决方案。网络层面则提供高速的IB网络,另外IB本身也做了一些虚拟化的技术,一方面增加IB网络负载,另一方面通过虚拟化的技术,屏蔽不同的训练任务对于整个网络通路的占用,从而确保资源的隔离。“在计算、存储、网络三个层面通过软件技术保障高SLA。”

  另外在2024年9月12日OpenAI宣布推理模型o1正式发布后,业内基本形成推理需求即将爆发的共识。据King透露从10月他们就着手研发一款名为Inference Engine的产品,一款针对推理场景的云平台服务,预计1.0版在2个月内上线。

  创企与“大厂”呈补位关系

  很显然,目前AI应用企业大规模走向海外,数据、算力等挑战依然存在。作为支撑大模型运行以及生成式AI应用开发的关键,AI Infra的价值潜力被进一步释放。

  中金公司601995)指出,目前AI Infra产业处于高速增长的发展早期,未来3-5年内各细分赛道有望保持超过30%的高速增长。另据红杉资本、贝恩等机构统计,预计到2027年,全球AI市场规模将飙升至近1万亿美元,AI硬件和服务市场年增长率达40%-55%。

  值得注意的是,AI Infra不仅包括硬件、软件和网络等基础架构,还涵盖了数据管理、模型训练、推理服务等多个层面。在创业公司里,有的专注做数据标注、数据质量或模型架构,有的则做GPU的“贸易商”。根据King的观察,目前具备AI Native Cloud,同时拥有硬件供应链优势和软件平台双重能力的新创公司还不多。

  而AWS、GCP、Azure这些云计算巨头厂商,无疑是有这些能力的。因此关于初创AI Infra会不会和云厂商产生正面冲突,是一直被圈内人好奇的关注点之一。King认为时代不断在发展,进而有新的需求产生,另外也有可能当下的需求在大厂那得不到了很好地满足,所以才有了创业公司的机会。

  “我认为是一种补位的关系,共同去解决社会和客户的需求。”相较于大厂和其他创企,King总结了三点GMI Cloud的差异化优势:一是安全的供应链、二是高性价比、三是产品能力,“这三个能力离不开GMI CLoud的融资能力、GPU ODM厂商直供的稳定供应链以及GMI Cloud顶尖研发团队的技术能力。”

  早期谈启动AI创业时,有一种说法是要走出大厂的“射程”,现在谈创业公司结局,有一种说法则是最好的是被大厂并购。

  对于被收购这件事,King认为是一部分创业公司最终的归宿,他个人觉得,“挺好的,一方面对于初创公司的投资人,有了退出的机制,对于创业公司来讲,它有了更多的资源,可以把整个集团公司的成本和方案把握得更好。”

  另一方面对于大厂来讲,“原本在这个领域里面可能自身有一定的短板,通过投资并购的一些创业公司,补齐了自身在这个领域的短板,或者说和原本主营业务有了更好的协同。对于社会和客户来讲,也可以减少一些更多的资源的浪费。”

  但是他也说道,是不是最好的结果要按不同的个体、不同的场景来判断。“可能对一些公司来讲,它被大厂收购就是一个最好的结果,但对于有些公司来讲,其实自己能够做大就是好的结果。”

  “AI一天,人间一年”坊间常以此来形容发展速度之快,从而市场需求也在随之变化。但正如百度创始人李彦宏所说,大公司反应都是很慢的,而创业公司所具有的创新优势正好和大厂相辅相成,共同推动行业进步。

  过去一年多,AI Infra已成热门赛道,国内外大厂都在发力AI Infra技术产品,如阿里云的磐久Al Infra 2.0服务器、百度智能云的百舸AI异构计算平台,与此同时,专注于解决某一垂直问题的AI Infra初创公司也拥有了比较广阔的市场,譬如GMI Cloud为AI出海企业提供高稳定的GPU云解决方案。

  万亿市场中,创业公司和大厂都在以探索之势寻找适合自己的发展路径,以期在这场技术革命中占据一席之地。伴随着技术的不断成熟和市场的加速扩展,AI Infra的重要性也不言而喻。

关注同花顺财经(ths518),获取更多机会

0

+1
  • 露笑科技
  • 实益达
  • 克劳斯
  • 电光科技
  • 中力股份
  • 鼎信通讯
  • 九洲集团
  • 胜蓝股份
  • 代码|股票名称 最新 涨跌幅