把记忆交给CPU,大模型会变快

让GPU去忙生成Token

阅读原文 · 量子位 →