4月10日,华为云生态大会2025在安徽芜湖召开。会上,华为公司常务董事、华为云计算CEO张平安公布了AI基础设施架构突破性进展,推出CloudMatrix 384超节点正规靠谱的股票配资平台,并宣布已在芜湖数据中心规模上线。
面向AI时代的海量算力需求,CloudMatrix 384超节点具备“高密”“高速”“高效”的特点,通过全面的架构创新,在算力、互联带宽、内存带宽等方面实现全面领先。
为打造百模千态的“黑土地”,华为云还对昇腾AI云服务进行持续优化,目前其已全面适配包含DeepSeek在内的160多个第三方大模型,为大模型训推提供可靠保障,支撑行业应用快速落地。
通过不断沉淀行业Know-How,华为云盘古大模型已在30多个行业、400多个场景中落地,在城市治理、智慧金融、医疗健康、气象预测等领域广泛应用,加速重塑千行万业。目前,华为开发者规模超1200万,伙伴数量超4.5万,云商店应用数量超1.2万。
华为云全球生态部总裁康宁在进一步介绍中表示,华为云云商店已经和8000多家伙伴建立了合作关系,服务全球超70万客户,给合作伙伴带来了诸多直接收益。
他透露,华为云商店致力于做成全国最好ToB应用分发平台,让客户更高效采购、部署,今年以来,围绕平台也发生了一些变化,不再强调云商店本身的盈利,平台费用也大幅降低。希望把联合解决方案做好,与合作伙伴一起通过华为云通用商品体系,将相关的资料上架展示,更好推广给客户。
他表示,在得到更好验证的情况下,希望很多商品可以实现联营联运,华为会和合作伙伴形成面向全国统一市场的联合BP,达成相互承诺,确保可以更好服务客户。
此次会上,硅基流动创始人兼CEO袁进辉作《昇腾云筑基破局,解锁DeepSeek云端新路径》主题分享。
年初DeepSeek爆火,但官方服务爆满,硅基流动基于华为昇腾云,在春节大年初二紧急上线了一个国内迄今为止也是最大规模的DeepSeek服务之一,给超过五百万的注册用户提供稳定的DeepSeek服务。
袁进辉表示,在开源模型变得触手可及的情况下,大多数的企业和应用,希望用AI能力的时候不需要从头训练模型,这势必引起基于AI模型能力应用大爆发。但这也意味着,需要极大的算力需求,训练和推理需要的算力和处理的数据量是成正比的,训练要处理的Token数和推理要处理的Token数,看谁的数量大谁需要的算力就大,“训练的时候,处理的数据就像游泳池的水,基本上是固定的,推理出的数据量只要有用户源源不断地来用这个模型,处理的数据量就不断增长,就像一条河流是没有边界的”。
未来随着AI的应用越来越多,对模型推理所需要的算力势必是今天算力的数十倍到上百倍,但在国际地缘政治的情况下,国产算力以及国际高端算力受限情况下,怎么解决这个问题?
袁进辉谈到,硅基流动基于昇腾云算力之上的推理引擎,能够在同样算力情况下,生成更多的Token和输出更快的速度。例如,基于昇腾云上搭建的DeepSeek推理服务,春节时服务了超过500万用户,迄今为止有超过几十万亿的Token生成量,每天有千亿Token的第三方模型推理服务,服务很多开发者和中小企业。
“做出这个成绩,其实内心里一直有一种担忧,老担心我们的算力跟不上,老担心我们用的算力落后于海外。”袁进辉透露,和华为的同事经过几个月的联合公关,基于最新的CloudMatrix 384超节点,很多指标超越国际主流最高端的架构和芯片。
他还提到,由于国产芯片架构和系统架构,与国际芯片架构是两个体系,内部的架构和数据的表示方式不一样,从上线之后,一直有用户担忧,两个不同的架构上生成的结果是否一样?
“我们做了一个大规模线上评测,而且是一个盲测,我提供给用户的时候并不告诉用户,这个结果是国际芯片生成的还是昇腾生成的,让用户去评价哪个结果好,经过几千用户的使用,基本上互有胜负,最终的结果从用户体验是一样的。”袁进辉说,在CloudMatrix 384超节点上可以做到在单个用户20TPS一个体验保证情况下,每个卡的decoding速度输出超过100个Token,实际上超过今天国际高端主流芯片上Sota的水平。
作为一个创业公司,袁进辉也分享了自己的创业感悟,他说,公司的定位是,让模型在主流芯片上能够运行更好,实际上以前这类公司在国内并不多,而海外则有非常多这类的软件公司,一个重要原因还在于生态,既有像华为这样的公司做根技术,在“黑土地”和“根技术”之上,各种各样的创业公司有自己的差异化优势,有分工有合作,形成完整生态,在这个基础上才能长出更蓬勃、更繁荣的森林体系。
南方+记者 郜小平正规靠谱的股票配资平台
Powered by 配资资讯专业网_专业外汇配资网_联华证券公司 @2013-2022 RSS地图 HTML地图