-
华为将首次展出“算力核弹”真机
观察者网获悉,本次世界人工智能大会(WAIC),华为将首次线下展出昇腾384超节点真机。
随着大模型训练和推理对算力需求的爆炸式增长,传统计算架构已难以支撑AI技术的代际跃迁。华为昇腾384超节点,首创将384颗昇腾NPU和192颗鲲鹏CPU通过全新高速网络MatrixLink全对等互联,形成一台超级“AI服务器”,单卡推理吞吐量跃升到2300 Tokens/s。
在高速互联总线联接下,昇腾384超节点共由12个计算柜和4个总线柜构成,是目前业界最大规模的超节点,算力总规模达300Pflops,是英伟达NVL72的1.7倍;网络互联总带宽达269TB/s,比英伟达NVL72提升107%;内存总带宽达1229TB/s,比英伟达NVL72提升113%。 更重要的是,通过最佳负载均衡组网等方案,昇腾超节点还能进一步扩展为包含数万卡的Atlas 900 SuperCluster超节点集群,未来可以支撑更大规模的模型演进。
并且,超节点架构还能更好地支持混合专家MoE大模型的推理,可以实现“一卡一专家”,一个超节点可以支持384个专家并行推理,极大提升效率。同时,超节点还可以支持“一卡一算力任务”,灵活分配资源,提升任务并行处理,减少等待,将算力有效使用率(MFU)提升50%以上。
本文系观察者网独家稿件,未经授权,不得转载。
标签 华为云- 责任编辑: 胡嘉烨 
-
“雪糕刺客”钟薛高:从高端狂飙到破产收场
2025-07-18 14:57 观网财经-消费 -
华住跻身全球酒店集团排行榜第四
2025-07-18 14:55 观网财经-消费 -
当布鞋首富人设崩塌——宗庆后遗产风波中的时代镜像
2025-07-18 14:36 观网财经-消费 -
光刻机巨头二季度业绩超预期,2026年恐难实现增长
2025-07-18 12:55 观网财经-科创 -
直播:TOYCITY首个Ai陪伴玩偶全球首发
2025-07-18 12:38 观网财经-科创 -
财经点评:“不想卷,不怕卷”的美团,要学学软实力
2025-07-18 12:07 观网财经-互联网 -
“飞书认证”成招聘新门槛?企业数字化催生人才要求变化
2025-07-18 12:06 观网财经-互联网 -
美团宣布将在全国落地养老保险,预计覆盖超过百万骑手
2025-07-18 12:06 观网财经-互联网 -
迪卡侬试衣间门缝惊现摄像头
2025-07-18 10:59 观网财经-消费 -
台积电单季净利润近千亿,称美国解禁H20是好消息
2025-07-18 10:15 观网财经-科创 -
黄仁勋有意再来链博会;苹果申请自研芯片C1商标;我国发现新稀土
2025-07-18 08:42 -
“今年中国的投资数据,令人惊讶”
2025-07-17 23:52 -
上半年净利跌超九成的酒鬼酒,胖东来能带得动吗?
2025-07-17 17:53 观网财经-消费 -
3年多亏掉3亿多,“红枣第一股”好想你上半年还是没扭亏
2025-07-17 16:47 -
“华尔街收购之王”接近拿下“国潮汽水”大窑
2025-07-17 14:20 观网财经-消费 -
上海:打造RISC-V产业集聚区
2025-07-17 11:32 观网财经-科创 -
黄仁勋称被华为AI芯片取代只是时间问题;MiniMax秘密提交在港IPO;
2025-07-17 08:48 观网财经-互联网 -
卖的越多、赚的更少?水井坊上半年净利润“腰斩”
2025-07-16 21:42 观网财经-消费 -
“关税大棒”挥向巴西,咖啡商:伤害的是美国企业
2025-07-16 19:57 观网财经-消费 -
苹果5亿美元押注美国唯一稀土商
2025-07-16 18:13 观网财经-科创
相关推荐 -
“应许之地”的挑战者 评论 21
“颁和平奖的国家都这么背信,还有没有国际法了?” 评论 127
美反华议员跳脚:好危险,生物技术也得“卡” 评论 39
美方得寸进尺:只要总部在中国,都不准买 评论 172
“井底之蛙!中国造船产能是美国200倍,绝非夸张” 评论 142最新闻 Hot-
肯尼亚爆发抗议:美国,不许在这里建
-
“世界太疯狂,入欧得重新考虑了”
-
亲特朗普极右派领跑,佩特罗:不接受大选结果
-
法国拦截了,俄方怒批:近乎国际强盗行径
-
“美国把最新最好的留给自己”,澳只能全买二手核潜艇了
-
日本砸11.7万亿日元救汇率,效果仅剩“1日元”
-
“产能过剩,中国冲击?欧洲想多了”
-
“中国在摩洛哥建工业基地”,欧盟又急上了
-
美方得寸进尺:只要总部在中国,都不准买
-
英国、德国、法国同日发声
-
中方批评后,日防相还在狡辩
-
董亦军、尹春燕、贺娇龙等拟获表彰
-
天涯社区,今日正式回归
-
特朗普提出更强硬条款,伊朗同步:已准备好谈判破裂
-
缅甸边境发生爆炸,至少55死
-
“井底之蛙!中国造船产能是美国200倍,绝非夸张”
-

观察员
上海市互联网违法与不良信息举报中心