AI推理KVCache存储
项目介绍
AI推理KVCache存储位于浙江杭州,属于电力类项目[输变电],该项目是新建,企事业类;已到立项阶段,在全国工程立项情报平台建强金项上发布后,目前最新标记状态是备案,项目计划投资金额暂未确定。
本项目研究AI推理KVCache存储技术,设计KVCache多级存储架构;开展AI推理KVCache存储试验验证,实现多并发、长上下文、Agent推理场景应用;搭建AI推理平台,开发国产GPU适配应用...
🔑 请登录 查看完整项目信息(联系人、环评、进展、附件等)