欢迎来到bob官方体育登陆 - bob官方体育登录
服务热线:139-2940-4267

专业真空泵维修

匠心精神 丨 追求极致

工程案例
bob官方体育:支撑超万亿参数大模型练习:华为发布全新架构AI集群Atlas 900 SuperCluster
发布时间:2023-11-05 07:32:10
来源:bob官方体育登陆 作者:bob官方体育登录

  C114 9月20日下午音讯(蒋均牧)智能化掀开新篇章,华为全联接大会2023上,华为常务董事、ICT根底设施事务办理委员会主任、企业BG总裁汪涛正式对外发布了全新架构的昇腾AI核算集群Atlas 900 SuperCluster。

  跟着人工智能进入大模型年代,大算力正在成为开展的AI中心引擎。华为改动传统的服务器堆叠形式,以体系架构立异打造AI集群,完成算力、运力、存力的一体化规划,打破大算力瓶颈。华为最新推出的Atlas 900 SuperCluster,可支撑超万亿参数的大模型练习。

  新集群采用了全新的华为星河AI智算交流机CloudEngine XH16800,凭借其高密的800GE端口才能,两层交流网络就能够完成2250节点(相当于1.8万张卡)超大规模无收敛集群组网。新集群一起使用了立异的超节点架构,可提供高达200PFLOPS@FP16的算力,极大的提高了大模型练习才能。此外,发挥华为在核算、网络、存储、动力等范畴的归纳优势,从器材级、节点级、集群级和事务级全面提高体系可靠性,将大模型练习稳定性从天级提高到月级。

  硬件使能是释扩大算力的要害,也是大模型开发的根底。为了加快大模型的立异,华为发布了更敞开、更易用的CANN7.0,不只全面兼容业界的AI结构、加快库和干流大模型,还深度敞开底层才能,让AI结构和加快库能够更直接地调用和办理核算资源,使能开发者自定义高性能算子,让大模型具有差异化的竞争力。

  C114得悉,面向Transformer网络模型的开发,华为晋级了Ascend C编程言语,以更高效的编程方法,简化算子完成逻辑,将交融算子的开发周期从2人月缩短到2人周,使能AI模型与使用的快速开发。


服务热线

139-2940-4267

添加bob官方体育登录微信

Top

扫一扫添加