华为 UCM 多方面能力领先,成为 AI 推理加速关键|华为全联接大会

摘要

在 9 月 18 日召开的华为全联接大会 2025(HC 2025)数据存储峰会上,华为数据存储周跃峰指出,华为 UCM 推理记忆数据管理器正成为推动行业 AI 推理加速研究与应用的关键变量。该技术可实现推理记忆数据成池存储、统一管理,并通过避免重复计算、精简序列长度、后缀智能联想等关键能力,有效利用历史记忆数据优化推理任务。

在 9 月 18 日召开的华为全联接大会 2025(HC 2025)数据存储峰会上,华为数据存储周跃峰指出,华为 UCM 推理记忆数据管理器正成为推动行业 AI 推理加速研究与应用的关键变量。该技术可实现推理记忆数据成池存储、统一管理,并通过避免重复计算、精简序列长度、后缀智能联想等关键能力,有效利用历史记忆数据优化推理任务。

避免重复计算:将推理记忆知识全量、持久化保存下来,以查找、复用历史记忆数据的方式代替重复计算,让机器具备「记忆」能力。精简序列长度:对超长上下文进行去噪、提纯、压缩,清除冗余 KV Cache 信息,缩短推理文本长度,实现推理上下文窗口扩展。后缀智能联想:在阅读理解、数据分析等业务场景下,基于过去习惯和私域知识,进行后缀检索联想预测,自动匹配最优结果,推理吞吐提升 1 倍以上,并实现存得越多推得越快。

UCM 通过场景化加速算法、套件及第三方库,构建「推理框架、算力、存储」三层协同的方案,将为探索未知领域和构建智能社会创造更多可能性,跃升行业智能化。

来源:互联网

最新文章

极客公园

用极客视角,追踪你不可错过的科技圈.

极客之选

新鲜、有趣的硬件产品,第一时间为你呈现。

张鹏科技商业观察

聊科技,谈商业。