华为云“算力核弹”全面上线，规模最高可达16万卡

APP下载

扫一扫

下载观察者APP

华为云“算力核弹”全面上线，规模最高可达16万卡
- 胡嘉烨
分享到：

2025-06-20 16:30:54 字号：A- A A+ 来源：观察者网

在6月20日举行的华为开发者大会2025（HDC 2025）上，华为常务董事、华为云计算CEO张平安宣布，基于CloudMatrix384超节点的新一代昇腾AI云服务全面上线，为大模型应用提供澎湃算力。

据介绍，随着大模型训练和推理对算力需求的爆炸式增长，传统计算架构已难以支撑AI技术的代际跃迁。华为云新一代昇腾AI云服务基于CloudMatrix384超节点，首创将384颗昇腾NPU和192颗鲲鹏CPU通过全新高速网络MatrixLink全对等互联，形成一台超级“AI服务器”，单卡推理吞吐量跃升到2300 Tokens/s。

超节点架构能更好地支持混合专家MoE大模型的推理，可以实现“一卡一专家”，一个超节点可以支持384个专家并行推理，极大提升效率。同时，超节点还可以支持“一卡一算力任务”，灵活分配资源，提升任务并行处理，减少等待，将算力有效使用率（MFU）提升50%以上。

对于万亿、十万亿参数的大模型训练任务，在云数据中心，还能将432个超节点级联成最高16万卡的超大集群；同时，超节点还可以支持训推算力一体部署，如“日推夜训”，训推算力可灵活分配，帮助客户资源使用最优。

张平安介绍，新浪与华为云深度合作，基于CloudMatrix384昇腾AI云服务，为“智慧小浪”智能服务体系构建了统一的推理平台，底层由昇腾AI算力提供支持。推理的交付效率提升了超过 50%，模型上线速度成倍加快；通过软硬协同调优，NPU利用率提升超过40%。

硅基流动正在使用CloudMatrix384超节点，为数百万用户高效提供DeepSeek V3、R1的推理服务。面壁智能使用CloudMatrix384超节点，让他们的小钢炮模型的推理业务性能得到了2.7倍提升。

在科研领域，中科院基于CloudMatrix384超节点打造了自己的模型训练框架，快速构建了中科院AI for Science科研大模型，摆脱了对国外高性能AI算力平台的依赖。

在互联网领域，360打造的纳米AI搜索，为用户提供超级AI搜索服务，对AI算力有极大需求，也已开启了CloudMatrix384超节点的测试。

当前，昇腾AI云服务已经为超过1300家客户提供澎湃的AI算力。

在会上，张平安宣布盘古大模型5.5发布，自然语言理解NLP、计算机视觉CV、预测、多模态、科学计算五大基础模型全面升级。他强调，盘古大模型是基于昇腾云的全栈软硬件训练而成的，这标志着基于昇腾架构可以打造出世界一流大模型。

在NLP大模型方面，全新的718B 深度思考模型是一个由256个专家组成的MoE大模型，在知识推理、工具调用、数学等领域大幅增强，实现能力领先。盘古大模型通过通算掩盖、全局动态均衡、分组混合专家MoGE等算法，实现了昇腾亲和的高效训推系统，训练MFU和单卡推理吞吐业界领先。同时，提出了模型亲和的词表、三明治架构、EP-Group负载均衡loss等技术，实现了不弱于业界一流模型的竞争力。

本文系观察者网独家稿件，未经授权，不得转载。
|

举报
- 违反法律法规
- 垃圾信息、广告
- 色情、淫秽信息
- 人身攻击
- 谣言、不实信息
- 冒充，冒用信息
- 破坏社区秩序
- 其他
- 涉未成年人有害信息
观察者网举报制度规范
确定取消
标签华为
- 责任编辑: 胡嘉烨
- 超1亿用户下单，美团闪购：618期间“大件”成交额增长200%
  
  2025-06-20 16:10 观网财经-互联网
- 余承东：鸿蒙已进入最好发展状态，鸿蒙6启动开发者Beta
  
  2025-06-20 16:00 观网财经-科创
- 抖音618战报：超6万品牌成交额翻倍，店播成带货主力军
  
  2025-06-20 15:58 观网财经-互联网
- 苹果要用AI设计芯片；小米6.35亿北京拿地；星舰试飞前爆炸
  
  2025-06-20 08:39
- 刘强东入住四季酒店点外卖，给外卖小哥发千元小费
  
  2025-06-19 21:25 观网财经-互联网
- 消息称AI独角兽Minimax考虑赴港IPO
  
  2025-06-19 19:35 观网财经-互联网
- 刷掌支付、收款链接……微信支付“软硬科技”亮相国际金融展
  
  2025-06-19 19:28 观网财经-金融
- 橘朵母公司“捡漏”百植萃，功能性护肤成美妆巨头必争之地
  
  2025-06-19 18:12 观网财经-消费
- 国产GPU第一股要来了？摩尔线程完成上市辅导
  
  2025-06-19 18:01 观网财经-科创
- 上海土拍首日保利连下两城，刷新杨浦区单价地王纪录
  
  2025-06-19 17:26 观网财经-房产
- 中国智能眼镜市场增速超100%，市场格局将“风起云涌”
  
  2025-06-19 15:44 观网财经-科创
- 连平：国际货币体系变局与上海国际金融中心建设
  
  2025-06-19 14:46 金融观察
- 全球首发“看一下”支付，支付宝为下一代流量入口“赶早集”
  
  2025-06-19 14:15
- 友好集市，小红书电商的新边疆
  
  2025-06-19 11:56 观网财经-互联网
- 菜鸟推出L4级无人驾驶快递车GT-Lite，售价限时降至1.68万
  
  2025-06-19 11:55 观网财经-互联网
- 网约车司机猥亵女乘客，T3最新回应
  
  2025-06-19 10:33
- 谷歌发现AI存在畏死情绪；MiniMax考虑赴港IPO；京东员工数将破百万
  
  2025-06-19 08:42 观网财经-科创
- 安徽省长王清宪与华为余承东等座谈
  
  2025-06-19 08:09 观网财经-科创
- 京东618再创新高，整体订单量超22亿单
  
  2025-06-19 00:41 观网财经-互联网
- 国内PC季度出货：联想下滑3%，华为增长8%，软通动力增长111%
  
  2025-06-18 23:07 观网财经-科创
搜索

   观察者头条查看全部

普京访印：美国都在买，印度凭啥不能买？评论 20

日本开发稀土担心中国干扰？日防相放话评论 115

“美欧抢矿，遭殃的却是他们” 评论 13

美国又开炮欧盟：你们在“霸凌”美国军工！评论 70

时代变了，“欧洲人迫切想要中国技术” 评论 204

   风闻 · 24小时最热查看全部

   最新视频查看全部
最新闻 Hot
快讯

华为云“算力核弹”全面上线，规模最高可达16万卡

超1亿用户下单，美团闪购：618期间“大件”成交额增长200%

余承东：鸿蒙已进入最好发展状态，鸿蒙6启动开发者Beta

抖音618战报：超6万品牌成交额翻倍，店播成带货主力军

苹果要用AI设计芯片；小米6.35亿北京拿地；星舰试飞前爆炸

刘强东入住四季酒店点外卖，给外卖小哥发千元小费

消息称AI独角兽Minimax考虑赴港IPO

刷掌支付、收款链接……微信支付“软硬科技”亮相国际金融展

橘朵母公司“捡漏”百植萃，功能性护肤成美妆巨头必争之地

国产GPU第一股要来了？摩尔线程完成上市辅导

上海土拍首日保利连下两城，刷新杨浦区单价地王纪录

中国智能眼镜市场增速超100%，市场格局将“风起云涌”

连平：国际货币体系变局与上海国际金融中心建设

全球首发“看一下”支付，支付宝为下一代流量入口“赶早集”

友好集市，小红书电商的新边疆

菜鸟推出L4级无人驾驶快递车GT-Lite，售价限时降至1.68万

网约车司机猥亵女乘客，T3最新回应

谷歌发现AI存在畏死情绪；MiniMax考虑赴港IPO；京东员工数将破百万

安徽省长王清宪与华为余承东等座谈

京东618再创新高，整体订单量超22亿单

国内PC季度出货：联想下滑3%，华为增长8%，软通动力增长111%

日本开发稀土担心中国干扰？日防相放话

“按下葫芦浮起瓢”，英伟达想重返中国市场又难了…

“特朗普高兴太早咯，中国把枪放进枪套，但枪还在手上”

又出狂言，“加墨不能成为中国出口中心…”

“美欧抢矿，遭殃的却是他们”

“今年就当广告时间，等英国接任后我们再回归”

美国又开炮欧盟：你们在“霸凌”美国军工！

“不要惊醒‘美洲豹’”

土耳其急了：别碰能源设施！

时代变了，“欧洲人迫切想要中国技术”

“原来特朗普对中国做这么多”，某些美国鹰派急眼了

17年来最低，“好感急剧恶化”

韩国入境系统标示“中国台湾”，民进党当局破防

“在美欧闻了一鼻子尾气，才反应过来：中国早没这味了”

中企在非遭800亿美元天价索赔，BBC老毛病又犯了

俄乌冲突后普京首次来访，印“外交钢丝”还能走多久？