DeepSeek开源最新推理框架：单集群日吞吐155万亿Token，KVCache可保存7天

DeepSeek正式开源其最新推理框架，官方数据显示该框架单集群日吞吐可达155万亿Token，支持将KV Cache保存时长延长至7天。