-
华为将首次展出“算力核弹”真机
观察者网获悉,本次世界人工智能大会(WAIC),华为将首次线下展出昇腾384超节点真机。
随着大模型训练和推理对算力需求的爆炸式增长,传统计算架构已难以支撑AI技术的代际跃迁。华为昇腾384超节点,首创将384颗昇腾NPU和192颗鲲鹏CPU通过全新高速网络MatrixLink全对等互联,形成一台超级“AI服务器”,单卡推理吞吐量跃升到2300 Tokens/s。
在高速互联总线联接下,昇腾384超节点共由12个计算柜和4个总线柜构成,是目前业界最大规模的超节点,算力总规模达300Pflops,是英伟达NVL72的1.7倍;网络互联总带宽达269TB/s,比英伟达NVL72提升107%;内存总带宽达1229TB/s,比英伟达NVL72提升113%。 更重要的是,通过最佳负载均衡组网等方案,昇腾超节点还能进一步扩展为包含数万卡的Atlas 900 SuperCluster超节点集群,未来可以支撑更大规模的模型演进。
并且,超节点架构还能更好地支持混合专家MoE大模型的推理,可以实现“一卡一专家”,一个超节点可以支持384个专家并行推理,极大提升效率。同时,超节点还可以支持“一卡一算力任务”,灵活分配资源,提升任务并行处理,减少等待,将算力有效使用率(MFU)提升50%以上。
本文系观察者网独家稿件,未经授权,不得转载。
标签 华为云- 责任编辑: 胡嘉烨 
-
“雪糕刺客”钟薛高:从高端狂飙到破产收场
2025-07-18 14:57 观网财经-消费 -
华住跻身全球酒店集团排行榜第四
2025-07-18 14:55 观网财经-消费 -
当布鞋首富人设崩塌——宗庆后遗产风波中的时代镜像
2025-07-18 14:36 观网财经-消费 -
光刻机巨头二季度业绩超预期,2026年恐难实现增长
2025-07-18 12:55 观网财经-科创 -
直播:TOYCITY首个Ai陪伴玩偶全球首发
2025-07-18 12:38 观网财经-科创 -
财经点评:“不想卷,不怕卷”的美团,要学学软实力
2025-07-18 12:07 观网财经-互联网 -
“飞书认证”成招聘新门槛?企业数字化催生人才要求变化
2025-07-18 12:06 观网财经-互联网 -
美团宣布将在全国落地养老保险,预计覆盖超过百万骑手
2025-07-18 12:06 观网财经-互联网 -
迪卡侬试衣间门缝惊现摄像头
2025-07-18 10:59 观网财经-消费 -
台积电单季净利润近千亿,称美国解禁H20是好消息
2025-07-18 10:15 观网财经-科创 -
黄仁勋有意再来链博会;苹果申请自研芯片C1商标;我国发现新稀土
2025-07-18 08:42 -
“今年中国的投资数据,令人惊讶”
2025-07-17 23:52 -
上半年净利跌超九成的酒鬼酒,胖东来能带得动吗?
2025-07-17 17:53 观网财经-消费 -
3年多亏掉3亿多,“红枣第一股”好想你上半年还是没扭亏
2025-07-17 16:47 -
“华尔街收购之王”接近拿下“国潮汽水”大窑
2025-07-17 14:20 观网财经-消费 -
上海:打造RISC-V产业集聚区
2025-07-17 11:32 观网财经-科创 -
黄仁勋称被华为AI芯片取代只是时间问题;MiniMax秘密提交在港IPO;
2025-07-17 08:48 观网财经-互联网 -
卖的越多、赚的更少?水井坊上半年净利润“腰斩”
2025-07-16 21:42 观网财经-消费 -
“关税大棒”挥向巴西,咖啡商:伤害的是美国企业
2025-07-16 19:57 观网财经-消费 -
苹果5亿美元押注美国唯一稀土商
2025-07-16 18:13 观网财经-科创
相关推荐 -
“极其鲁莽!特朗普开了一个非常糟糕的先例” 评论 56
美国“飞手”怒了:我爱国货,但无人机就得是中国 评论 108
全面禁售,还污蔑“中方会测绘美国每一寸土地” 评论 162
中方出手,“法国受伤最重” 评论 200最新闻 Hot-
“他俩各唱各的调”还抢功内斗,美国务院急灭火
-
最新公开!他自杀前给性侵犯写信:我们的总统也喜欢......
-
英媒有点急:挑战来了,中国又一领域跻身高端市场
-
“极其鲁莽!特朗普开了一个非常糟糕的先例”
-
泰国感谢中方:赞赏中方秉持客观公正立场
-
美国“飞手”怒了:我爱国货,但无人机就得是中国
-
笑岔气了,所谓“中国代理人”案核心证物竟是盐水鸭…
-
泰方:上次停火谈判太仓促,就为了给特朗普面子
-
全面禁售,还污蔑“中方会测绘美国每一寸土地”
-
特朗普又想起这茬了,“必须拿下,沿海全是中俄船只…”
-
中植集团原董事局主席高某某等涉嫌非法吸收公众存款罪案,一审宣判
-
中国父子偷渡美国,6岁儿子“失踪”?结局是……
-
气象预报事关国安,“中国要打破欧洲依赖”
-
日本死命折腾,“谁让特朗普不搭理我,还老提G2”
-
万科20亿债券展期方案再次被否,短暂延期至明年1月28日
-
广东最新大动作:500亿战略新兴产业基金成立
-

观察员

上海市互联网违法与不良信息举报中心