在今日的华为全联接大会2026上,华为推出基于灵衢打造AI记忆存储-OceanStor M900。Agent与长序列需要多层次KV Cache架构,面向Agent推理系统,华为提出了多层KV缓存架构,推出基于灵衢UnifiedBus、支持“一跳直连”的华为L3.5层PB级KV缓存——OceanStor M900集群。同时,M900采用混合介质加优化Retention算法,可将SSD读写寿命提升16倍,从底层保障KV命中和长稳可靠。(财联社)
原文:https://36kr.com/newsflashes/3986997537700609?f=rss
评论区 0 条讨论