微纳核芯与北京大学联合突破:3D-TokSIM架构破解AI算力瓶颈,铸就国产 3D AI 芯片能效新标杆!
发表时间:2025-12-12 16:53:14
网读量:12
原创:微纳核芯
发表时间:2025-12-12 16:53:14
网读量:12
原创:微纳核芯
2025年12月,国产AI芯片产学研协同创新迎来里程碑式突破。杭州微纳核芯电子科技有限公司(以下简称“微纳核芯”)与北京大学集成电路学院黄如院士团队联合研发的3D-TokSIM架构,于近日芯片设计自动化顶级会议DAC(Design Automation Conference)正式发表。该架构通过跨层协同创新,成功破解大语言模型(LLM)推理中的“存储墙”难题,能效比显著优于英伟达RTX3090,为国产AI芯片在高端场景的自主化发展奠定了关键基础。
当前,大语言模型推理普遍面临“存储墙”挑战:每生成一个token(词元),都需反复从外部存储加载全部模型参数,导致计算单元利用率长期低于25%,成为制约算力效能的核心瓶颈。针对这一全球性难题,微纳核芯与北大组建联合攻关团队,开创性地提出了“硬件-算法-数据流”全栈协同的解决方案。方案提出三大核心创新,实现跨层协同突破:3D堆叠硬件设计、推测解码算法策略、Token驻留存内计算数据流实现重大突破,确立产学研协同创新范式,助力自主生态构建。
此次发布的3D-TokSIM架构,标志着从“内存受限”到“算力-带宽平衡”的跨越式突破。微纳核芯与北京大学的深度协同,涵盖了从前沿架构探索、核心算法创新到最终芯片工程实现的完整链条,为国产高性能AI芯片的技术创新提供了可复制的高效范式。
微纳核芯作为存算一体芯片技术的领军企业,已持续深耕该领域七年,此前启动牵头制定全球首个RISC-V存算一体指令集标准,并构建了覆盖核心IP、编译器、软件栈的全链条技术体系。此次与北京大学的合作,是其“科研-转化-生态”闭环战略的关键一环。
未来,双方将持续深化合作,推进3D-TokSIM架构的端到端部署验证,并联合产业链上下游伙伴,共同构建自主可控的高性能AI计算生态,推动顶尖科研成果持续转化为产业核心竞争力,为人工智能技术的普惠化发展注入更强“中国芯”力量。