糖心vlog线观看免费:糖心淑女飞天水萝卜全文免费阅读-华为：昇腾AI计算平台训练出准万亿MoE模型

频道：旅游 日期： 浏览：1

5月30日消息，华为宣布推出参数规模高达7180亿的全新模型盘古Ultra MoE，这是一个全流程在昇腾AI计算平台上训练的准万亿MoE模型。据悉，盘古团队提出Depth-Scaled Sandwich-Norm（DSSN）稳定架构和TinyInit小初始化的方法，在昇腾平台上实现了超过18TB数据的长期稳定训练。在训练方法上，华为团队首次披露在昇腾CloudMatrix 384超节点上打通大稀疏比MoE强化学习（RL）后训练框架的关键技术，使RL后训练进入超节点集群时代。