杭州新华三技术有限公司AI长记忆存储服务器项目
项目介绍
杭州新华三技术有限公司AI长记忆存储服务器项目位于浙江杭州,属于服务业类项目[信息化],该项目是新建,企事业类;已到立项阶段,在全国工程立项情报平台建强金项上发布后,目前最新标记状态是备案,项目计划投资金额为13650-16500万元。
大规模存储记忆底座;据在HBM、内存与SSD之间的多层异构分级存储,构定PB级;研究面向推理场景的存储性能优化技术,研究一套高性能AI推理KV存储系统;研究基于KVCache卸载的AI推理加速软件,实现混合KV激;研究针对KVCache的稀疏化、合并聚类等压缩算法,在保障模型精度的前提下,有效降低KV数据空间占用与传输带
🔑 请登录 查看完整项目信息(联系人、环评、进展、附件等)