-
AI落地的关键堵点,华为用“黑科技”打通了
-
吕栋lvdong@guancha.cn
但当下英伟达正陷入 “后门”风波,信任危机下,行业更呼唤中国方案。
“ 分级缓存管理很多人在做, UCM最大的差异化是将专业的存储 纳入进来。 ”华为技术专家对观察者网表示,华为通过大量的软硬协同和卸载,比如KV检索的索引和KV Cache生命周期管理等,构建了在分级缓存管理上的差异化能力,“业界很多方案在算法加速库这一层只有传统的Prefix Cache,并没有像今天这样去商用全流程地稀疏、后缀检索算法以及其他一系列的算法,所以中间的算法库上面,我们相对业界贡献了非常多、更加丰富、更加可靠、加速效果更好的算法,并且这个算法库还在持续增加当中。”
关注大模型的可能都知道,华为之前开源了 AI框架MindSpore,近期又开源了对标英伟达CUDA的神经网络异构计算架构CANN,而这次华为再度宣布,将在9月开源UCM。
从架构上看,华为的 UCM解决方案主要有三大组件构成: 对接不同引擎与算力的推理引擎插件( Connector)、支持多级KV Cache管理及加速算法的功能库(Accelerator) 和 高性能 KV Cache存取适配器(Adapter) ,实现了 推理框架、算力、存储三层协同 。
通过开放统一的南北向接口, UCM可适配多类型推理引擎框架、算力及存储系统。对于推理引擎框架开发者而言,UCM开放的接口使得他们能更方便地将UCM技术集成到自己的框架中,提升框架性能和竞争力;对于算力及存储系统厂商来说,UCM的开源提供了新的发展机遇,促使他们研发更适配的产品和解决方案,以更好地与UCM协同工作。
“ 我们并不希望控制这个框架,或者在框架上构建差异化的能力控制什么,我们希望这个生态能够繁荣起来,真正解决 AI推理化的问题,华为的UCM今天推出来以后 , 在整个推理框架、推理体验生态、成本方面贡献了一份力量,未来相信会有更多的玩家在里面做贡献,是一个大家共创繁荣的过程。 ”华为技术专家对观察者网表示。
从更长远的意义来看,华为推出 UCM并开源,仍是系统工程的胜利,将推动中国AI产业进入“体验提升-用户增长-投资加大-技术迭代”的良性商业正循环。它并不是为了替代什么,而是要打通AI行业化落地的关键堵点,为中国AI产业的长远发展注入更强的动力。
- 责任编辑: 吕栋 
-
前7月全国固投同比增1.6%,房地产开发投资降12%
2025-08-15 10:26 宏观经济 -
全球追索的恒大“二号人物”浮出水面!夏海钧藏身美国加州尔湾
2025-08-15 10:07 观网财经-消费 -
哈根达斯与星巴克踏入同一条河流
2025-08-15 10:02 观网财经-消费 -
腾讯称有足够芯片做AI训练;美考虑国家持股英特尔;抖音回应快递服务
2025-08-15 08:59 观网财经-互联网 -
唯品会Q2财报:净营收258亿元,SVIP活跃用户数同比增15%
2025-08-14 20:08 观网财经-互联网 -
淘天集团“更名”,与饿了么、飞猪为并行关系
2025-08-14 20:07 观网财经-互联网 -
稳定币第一股不稳定:Q2营收增53%,但净亏损4.82亿美元
2025-08-14 20:06 金融观察 -
传复星集团在港申请稳定币牌照,此前提交“星币”商标注册
2025-08-14 20:05 金融观察 -
同比少卖了7亿元,康师傅上半年饮料业务失速
2025-08-14 19:31 观网财经-消费 -
22.4%!京东集团2025年Q2收入同比增速再创近三年新高
2025-08-14 17:53 观网财经-互联网 -
腾讯Q2收入利润双增长,AI立大功
2025-08-14 17:50 观网财经-互联网 -
联想季度营收1362亿,杨元庆:中国制造成本优于任何地方
2025-08-14 16:10 观网财经-科创 -
非洲市场出现多个人事变动,小米称是正常调整
2025-08-14 15:58 观网财经-科创 -
时隔六年再现!平安举牌太保,保险巨头互买点燃行情
2025-08-14 13:10 金融观察 -
人形机器人今年产量仅2台,天链机器人IPO可能要被“劝退”
2025-08-14 09:39 科技前沿 -
DeepSeek-R2在8月无发布计划;苹果计划推出安全摄像头等AI产品
2025-08-14 08:43 观网财经-互联网 -
瓜子和豌豆卖不动了,甘源食品净利润腰斩
2025-08-13 19:30 观网财经-消费 -
女律师“单挑”王者荣耀,“中国游戏算法诉讼第一案”开庭
2025-08-13 19:26 观网财经-互联网 -
7月DAU过2000万,《三角洲行动》Q2实现用户、收入双线高速增长
2025-08-13 17:38 观网财经-互联网 -
“中国人几百年来都不精于消费”,怎么理解?
2025-08-13 17:11 观网财经-消费
相关推荐 -
-
“轻松的一天”,随行高管们非常期待… 评论 15
东南亚多国表态,“缅甸措辞最严,坚定站队中方” 评论 131
呵呵,“‘民主国家’看不上中国技术”? 评论 313
普京访印:美国都在买,印度凭啥不能买? 评论 90
日本开发稀土担心中国干扰?日防相放话 评论 138最新闻 Hot-
“轻松的一天”,随行高管们非常期待…
-
“特朗普对高市早苗措辞非常严厉,甚至还说了……”
-
扎心了!美新版国安战略,辣评欧洲
-
东南亚多国表态,“缅甸措辞最严,坚定站队中方”
-
打造美版深圳!他给特朗普画饼,被曝“近乎科幻”
-
无视美国,莫迪宣布:印俄已同意…
-
“二次打击”还没解释清,美军袭击又致4死
-
欧盟,“罚酒三杯”?
-
呵呵,“‘民主国家’看不上中国技术”?
-
普京访印:美国都在买,印度凭啥不能买?
-
“白宫‘慌乱应对’,想赢中国,支持得到位啊”
-
国安战略报告迟迟未出,“美财长要求软化对华措辞”
-
自民党“黑金”丑闻“吹哨人”再出手,这次是高市
-
“彻底反转了,中国是发达国家,我们才是新兴国家”
-
“华德858”轮触礁断裂
-
机密通话曝光!“美国恐将背叛,你要小心”
-

观察员
上海市互联网违法与不良信息举报中心