标签： ucm

中国信息通信研究院组织召开的“存力中国行”北京站活动于11月4日举行，吸引了来自中国移动、华为、硅基流动等近20家产业代表齐聚一堂。随着AI产业发展重心从“追求模型能力极限”转向“追求推理体验最优化” … Continue reading “存力中国行”探讨AI推理新挑战，华为开源UCM技术成破局关键

财联社11月5日电，近日，华为针对AI推理加速的关键技术——UCM（Unified Cache Manager）推理记忆数据管理正式宣布开源。UCM以KV Cache多级缓存和推理记忆管理为中心，通过 … Continue reading 华为UCM推理记忆管理技术正式开源

财联社8月12日电，记者最新获悉，华为计划于2025年9月正式开源UCM，届时将在魔擎社区首发，后续逐步贡献给业界主流推理引擎社区，并共享给业内所有Share Everything(共享架构)存储厂商 … Continue reading 华为计划于2025年9月正式开源UCM