观察员
-
三款芯片+万卡协同，云天励飞为国产AI推理算力探索新路径
随着AI应用加速落地，算力竞争的重心正从训练阶段的峰值性能，进一步转向推理阶段的系统效率。面对持续增长的Token生成需求，如何让计算、访存、互联和调度更好协同，正在成为大规模推理部署必须回答的问题。
7月18日，在2026世界人工智能大会（WAIC）上，国内AI芯片企业云天励飞公布了未来两年多的AI推理芯片路线图。公司计划推出DeepVerse100P、DeepVerse100D和DeepVerse100L三款云端大算力推理芯片，分别针对Prefill、Decode和Decode FFN三个环节进行专用优化，并推动三款芯片在万卡异构集群中分离部署、协同运行。
“AI算力的竞争已经进入系统级效率的阶段。”云天励飞副总裁罗忆在重构算力论坛接受观察者网采访时表示。
不只看单卡性能，推理负载走向精细化
大模型推理并不是单一负载。Prefill需要集中处理输入上下文，对计算能力要求较高；Decode采用逐Token生成方式，对内存带宽和数据访问效率更加敏感。随着MoE等模型架构发展，Decode内部的Attention与FFN也呈现出不同的计算、访存和通信需求。
罗忆表示，让一套通用算力资源同时承载差异明显的负载，容易造成资源竞争。当推理规模进一步扩大，单颗芯片的峰值性能已经不能完整反映系统效率，不同环节所需的计算、内存和互联资源必须进行更精细的匹配。
按照规划，DeepVerse100P面向百万级上下文Prefill场景，通过独立资源池减少长上下文处理对Decode生成吞吐的影响；DeepVerse100D面向Decode，拥有数倍于主流芯片的内存带宽，支持1024卡Scale-up及光互联系统架构，可按需建立光路直连并动态重构光路，减少多跳电交换带来的排队、拥塞和中间转发开销；DeepVerse100L则面向Decode FFN，采用3D Memory架构，相比主流HBM大幅提升内存带宽，并通过低延迟芯片互联和激活数据快速传输，提高计算与通信的并行效率。
罗忆认为，这一路线并非追求用一颗芯片覆盖所有场景，而是围绕中国AI产业不断增长的推理需求，探索一条能够持续提高Token生成效率、降低单位Token成本的技术路径。
从芯片到集群，系统级协同成为核心
在万卡规模的推理集群中，系统效率并非单卡性能的简单叠加。Prefill与Decode、Attention与FFN如果共享同一套通用资源，容易产生资源竞争；随着集群规模扩大，通信阻塞、资源等待和尾延迟也会进一步影响整体效率。
云天励飞的思路，是按照不同推理阶段的负载特征分别配置芯片和资源池，再通过高速互联形成协同运行的异构算力系统。通过分离不同负载、减少资源干扰，集群可以根据实际需求配置计算、访存和通信资源，从而提高资源利用率和Token生成效率。
硬件异构程度和集群规模提升，也对软件栈提出了更高要求。云天励飞持续建设IFWA软件栈，围绕Transformer主流架构完善PyTorch ATen算子适配，并加强对vLLM、SGLang等主流推理框架的支持，以降低模型向DeepVerse平台迁移和部署的门槛。
与此同时，公司还通过开源Houmao多Agent异构编程框架、将成熟的Triton算子能力融入FlagOS等方式，提高模型和算子的适配效率。今年5月，云天励飞联合产业伙伴发起“1001计划”，希望推动芯片、系统、软件、模型和应用等环节加强协同，共同提升Token生成性价比。
“国产芯片的竞争，最终比的不是技术参数，而是谁能让用户用得起、用得好、用得放心。”罗忆表示，“我们希望用三款专用芯片加上系统化集群方案，把这条路走出来。”
- 原标题：三款芯片+万卡协同，云天励飞为国产AI推理算力探索新路径
- 责任编辑: 武守哲
-
AI治理，全球南方正在成为“定义者”
2026-07-18 18:10 -
“硅盾”变“硅笼”，岛内何苦自断经脉？
2026-07-18 12:03 科技前沿 -
AI这局，欧洲没戏
2026-07-18 06:33 -
“中国AI全球领先，来我们这里打开亚非欧市场吧”
2026-07-17 17:12 智观WAIC2026 -
对美国“人工智能霸凌”说“不”！
2026-07-17 07:58 观察者头条 -
知网下架AI署名论文
2026-07-15 20:40 人工智能 -
太空具身智能机器人等入选2026工程技术难题
2026-07-15 19:17 科技前沿 -
隆基再闯“无人区”：8大底层技术首发，光伏逻辑正被重新改写
2026-07-15 17:53 心智观察所 -
潘建伟院士连获两项国际顶尖大奖！均为中国首次
2026-07-14 18:27 科技前沿 -
“刷不出火箭”，欧洲彻底拉了胯
2026-07-13 22:04 航空航天 -
长五遥十四火箭运抵文昌，将执行嫦娥七号发射任务
2026-07-13 17:49 航空航天 -
一场黑客攻击，让苹果二十年的供应链铁幕瞬间透明
2026-07-07 13:56 心智观察所 -
中国“人造太阳”有重大进展：第一度电瞄准2030年
2026-07-05 19:23 科技前沿 -
新研究：仰韶先民基因在黄河中游连续遗传6200年
2026-07-01 16:04 考古 -
4项中医药国标明起实施，阴阳、五行都改，“肾藏精”删了
2026-06-30 17:38 -
完成静态点火试验！朱雀三号火箭再传捷报
2026-06-29 18:26 科技前沿 -
从电动汽车到AI，欧洲想重塑生产力，为何绕不开中国方案？
2026-06-26 09:41 -
WAIC「重构算力」链接会系列专场启幕在即！
2026-06-24 10:56 智观WAIC2026 -
我国首本英文数据期刊，创刊发布
2026-06-23 18:26 科技前沿 -
中国脑科学研究新突破：世界首次实现同一神经元三模态整合解析
2026-06-19 07:50 科技前沿
相关推荐 -
-
中企只差243辆，日媒发愁：这块堡垒也守不住了？ 评论 37
一次接一次全军覆没，国乒怎么了？ 评论 221
白宫“喊冤”：对华关税白折腾，怪你们40多国 评论 77
不知悔改！日防相拜鬼，自民党高层首次集体招魂 评论 287
没完没了！中方试射，澳总理跟特朗普“告状” 评论 127最新闻 Hot
Copyright © 2014-2024 观察者 All rights reserved。
沪ICP备10213822号-2 互联网新闻信息服务许可证：31220170001
网登网视备（沪）02020000041-1号 互联网宗教信息服务许可证：沪（2024）0000009
广播电视节目制作经营许可证：（沪）字第03952号
增值电信业务经营许可证：沪B2-20210968 违法及不良信息举报电话：021-62376571
沪公网安备 31010502000027号
中国互联网举报中心
上海市互联网违法与不良信息举报中心
