面向大模型应用的云边端异构算力协同系统项目
项目介绍
面向大模型应用的云边端异构算力协同系统项目位于浙江杭州,属于服务业类项目[信息化],该项目是新建,企事业类;已到立项阶段,在全国工程立项情报平台建强金项上发布后,目前最新标记状态是备案,项目计划投资金额暂未确定。
建设自主可控的端边云异构算力协同系统;所制边缘存算一体化AI芯片,支持M.2和PCIe形态,单芯片FP4算力≥12OTFLOPS,显存≥48GB,显存带宽≥150GB/s,功耗≤15W;完成至少30个以上主流AI组件原生适配,覆盖AISDK镜像、AI框架镜像等;支持≥10类典型模型云边端自动切分部署,端到端推理时延降低≥30%,资源利用率提升≥20%,精度损耗≤%;实现云边端统一调度与故障自愈,调...
🔑 请登录 查看完整项目信息(联系人、环评、进展、附件等)