MIT TR：AI推理留下的隐性存储成本被普遍忽视

AI’s hidden storage bill: What inference leaves behind

多数高管对AI成本的认知仅停留在GPU、高功耗算力和芯片排队层面，普遍忽略了模型响应后产生的大量后端数据带来的存储开销。