bw必威西汉姆联官网王中风教授团队获IEEE集成电路会刊年度最佳论文奖

发布时间:2025-05-07浏览次数:221

近日,bw必威西汉姆联官网王中风教授团队发表的论文《An Algorithm-Hardware Co-Optimized Framework for Accelerating N:M Sparse Transformers》,荣获2025IEEE超大规模集成电路系统会刊 (IEEE Transactions on Very Large Scale Integration Systems,以下简称VLSI会刊) 年度最佳论文奖。


图1: 可重构Transformer矩阵计算硬件架构

获奖论文提出了一种算法-硬件协同优化Transformer稀疏加速框架。Transformer模型是当今主流深度神经网络模型的基础架构,由它衍生出DeepSeekQwenGPTLlama等商用大模型。因此对Transformer的加速技术具有实际需求和广泛应用前景。这项研究工作通过继承式动态剪枝机制,将英伟达现有GPU架构支持的固定2:4稀疏模式成功拓展到任意整数比例N:M的稀疏模式上;通过算法和架构的联合优化,在满足用户给定精度需求的同时实现了高效硬件加速,大幅提升了模型部署的灵活性和计算效率,为AI的推广应用提供了有力的技术支持。

由方超(Betway必威西汉姆联2019级直博生)作为第一作者、王中风教授为通讯作者的这篇VLSI会刊论文,自202211月见刊以来,长达22个月位列该期刊月度热点论文榜单,累计下载量突破3,500次(IEEE Xplore。论文中提出的稀疏加速框架已获得麻省理工学院、耶鲁大学、清华大学及中国科学院大学等高校以及英伟达、Meta等国际著名企业的广泛关注。

VLSI会刊是国际集成电路设计领域的旗舰期刊之一。该期刊年度最佳论文奖旨在表彰过去三年内在该刊发表的最具创新性和影响力的研究成果,评选标准严格,入选论文须在集成电路前沿领域实现原创性理论突破并具备实际应用价值。自1995年设立以来,该奖项每年至多授予一篇论文,有多年空缺的经历。


论文链接:https://ieeexplore.ieee.org/document/9857911

论文引用:C. Fang, A. Zhou and Z. Wang, An Algorithm–Hardware Co-Optimized Framework for Accelerating N:M Sparse Transformers, in IEEE Transactions on Very Large Scale Integration (VLSI) Systems, vol. 30, no. 11, pp. 1573-1586, Nov. 2022, doi: 10.1109/TVLSI.2022.3197282.