网易首页 > 网易号 > 正文 申请入驻

清华大学软件定义芯片团队两篇论文入选顶会MICRO 2020

0
分享至

  

本文系网易新闻网易号特色内容激励计划签约账号【量子位】原创内容,未经账号授权,禁止随意转载。
杨净 发自 凹非寺
量子位 报道 | 公众号 QbitAI

  最近,第53届国际微架构大会(MICRO)在线上顺利召开。

  作为计算机体系结构四大顶级会议,清华大学魏少军刘雷波团队有两篇入选该会议论文。


  这是该团队继去年斩获MICRO 2019最佳论文提名后,在体系结构顶级会议上的又一重要突破。

  在会议上,他们做了两篇学术报告。

  分别为:

  

Constant-time Alteration Ternary CAM with Scalable In-Memory Architecture

  一种基于可扩展存内架构并支持常数时间更新的三态内容寻址存储器。

  

TFE: Energy-efficient Transferred Filter-based Engine to Compress and Accelerate Convolutional Neural Networks

  一种基于转换卷积核的卷积网络压缩与加速架构。

  报告人分别是两篇论文一作清华大学微电子所博士生陈迪贝莫汇宇,论文通讯作者均是刘雷波教授。

  什么样的研究?

  基于可扩展存内架构并支持常数时间更新的三态内容寻址存储器


  清华微电子所博士生陈迪贝同学报告论文的主要工作

  三态内容寻址存储器(TCAM)凭借其不错的匹配性能,广泛应用于现代交换机和路由器的高速包分类。

  然而,传统TCAM依赖于物理地址的规则优先级编码面向高速匹配设计,无法满足规则快速更新的需求。主流硬件交换机每秒仅支持大约四十至五十条规则更新,高达数百毫秒的更新延迟成为了网络性能瓶颈。

  于是,基于这个问题,陈迪贝介绍了一种支持常数时间更新的三态内容寻址存储器CATCAM


  △CATCAM芯片原型

  具体来说,就是提出了基于矩阵的优先级编码方法,将规则的优先级关系与地理地址解耦。

  规则的优先级关系被编码在优先级矩阵中,当输入项通过匹配矩阵完成匹配后,其结果将遍历优先级的匹配规则,对应8T SRAM的位线计算逻辑。

  借助双电压列写方法,新规则可插入矩阵中任意空位,实现常数时间的规则更新。


  △基于矩阵的优先级编码及其存内计算实现

  此外,该工作还设计了运用全局优先级编码的层次化扩展架构,采用基于区间的动态调度逻辑,在满足扩展性的同时保证了任意规模下常数时间的规则更新。


  △CATCAM硬件架构

  最终,通过重新设计三态内容寻址存储器的优先级机制,CATCAM消除了规则更新导致的大量现有规则迁移,在提升更新吞吐量和响应速度的同时保证了扩展性。

  与现有最先进的解决方案相比,实现了至少三个数量级的加速比。

  主要合作者还有李兆石、熊天柱、刘志伟、尹首一等。

  基于转化卷积核的神经网络压缩和加速架构


  清华微电子所博士生莫汇宇同学报告论文的主要工作

  神经网络模型的参数决定了模型大小,大网络会消耗更多的参数和计算来提高网络的拟合能力。

  无论使用GPU、CPU,都需要考虑现存或内存对整个模型参数的保存能力,对面积、功耗极为敏感的边缘端设备,无法接受过多的参数和计算。

  此前,就有研究人员提出转换卷积核的方法,利用结构化压缩,来使硬件运行更高效。但该方法由于存在着大量的重复计算,限制了卷积运算速度的进一步提升。

  基于此,莫汇宇同学介绍了一种基于结构化压缩的神经网络加速方法,并提出了一种高效的神经网络加速架构。

  在同样工艺和频率下,该架构的面积为Eyeriss结构的57.96%,功耗为其24.12%


  △整体硬件架构

  这一方法减少了卷积核转化过程中大量冗余计算。在模型压缩率不变的情况下,有效提高了网络模型的运算速度和能效。

  该工作设计了堆叠的寄存器堆,当相同权值出现在转化卷积模型卷积核的同一行时,使用寄存器堆存储每个权值与输入激活值的乘积,以及不同权值和输入激活值的局部和结果。

  当处理不同的转化卷积模型时,通过与之对应的数据和控制流,将共享乘积和局部和传输到不同的计算单元,以便重复利用生成不同输出通道的结果。


  △堆叠寄存器组重复利用存转化卷积核模型运算的中间局部和

  此外,研究人员还设计了一种有效的存储调度方式。

  在整个卷积处理过程中,输入数值按行输入,每行都会同时和卷积核的所有行卷积运算,其卷积结果将会分别存储在单独的存储模块中。

  这样,存储单元里的卷积结果将会被不同输出结果共同使用,且该结果将会随着卷积过程进行循环更新。

  既能重复利用存储模块,也能提高卷积结果的复用率。


  △整行卷积结果的复用

  最终,实验结果表明,与最优的神经网络架构在经典VGGNet网络上相比,该架构实现了最大4×的模型压缩,2.72×的加速及10.74×的能效提升。

  主要合作者还有朱文平、栗强、尹首一等。

  清华魏少军、刘雷波团队

  关注芯片、体系结构等领域的伙伴对这一团队并不陌生。

  清华大学魏少军教授、刘雷波教授团队在软件定义芯片领域取得了多项重要技术突破。

  相关技术在多项国家重大工程中得到批量应用,曾获国家技术发明二等奖、教育部技术发明一等奖、电子学会技术发明一等奖、中国发明专利金奖、世界互联网大会15项世界互联网领先科技成果等。


  △魏少军教授

  在JSSC/TIFS/TPDS等领域顶级期刊上发表论文200多篇,在ISCA/HOT CHIPS/DAC/VLSI等领域顶级会议发表论文20余篇。

  去年8月,他们的研究成果登上高性能芯片顶级会议Hot Chips,这是31年来中国高校首篇一作论文。官方介绍称,他们这一技术有望解决中国95%以上服务器CPU面临的芯片安全难题。

  一个月之后,在顶会MICRO上,他们获得了MICRO 2019最佳论文提名,这是MICRO 52年历史上第二次有亚洲高校及机构获得该奖项。

  就在上个月,他们以「后量子密码硬件加速」技术登上第22届密码硬件与嵌入式系统会议(CHES)。这是国际密码芯片和物理安全方向最重要的顶会之一。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐

女巨贪与40多名领导发生性关系 为逃死刑色诱狱警故意怀孕

中国国际教育电视台
2020-11-23 11:29:33

因清华大学事件导致清华大学吧被炸,吧内产生大量黄图贴

中国国际教育电视台
2020-11-23 10:31:33

突发!中宣部重磅讲话,蚂蚁帝国可能有麻烦

创新科技理念
2020-11-23 22:57:59

第三届SKP富裕阶层观察大会

GQ中国
2020-11-23 14:21:41

有理儿有面:黄之锋怎会乖乖认罪?

环球网资讯
2020-11-23 21:41:36

拜登上台对中美关系是好事吗?详解拜登外交策略

冰汝看美国
2020-11-23 18:25:36

女子提分手被前男友捅20多刀藏尸冰柜,案发前凶犯曾看《误杀》手机搜寻杀人担责,死者家属:他不是误杀

海峡都市报
2020-11-23 11:22:09

16年前深夜,陈婷到酒店在张艺谋房间发现章子怡,怒扇他两耳光

娱圈李十八
2020-11-23 14:05:43

贵妃诗妮娜给泰王私照泄露,穿背心裙不刮腋毛,英记者疑王后所为

译言
2020-11-23 07:13:20

虚假的好莱坞一哥一姐,没了系列IP加成后,单扛的电影部部扑街

娱乐江湖百晓生
2020-11-23 10:54:15

马云又受重挫!官方首次表态,支付宝或被取代!

大杰说网事
2020-11-23 20:42:56

清华学姐被人深扒,中考370,高考482!她进清华的手段极不光彩?

胡侃教育
2020-11-23 13:52:06

阴茎不硬怎么办?

生活大火锅
2020-11-23 21:00:10

年度最强论文封面:通讯作者把自己P成女娲,作为期刊论文封面

生物世界
2020-11-23 21:25:03

老公解决生理需求靠手,得知原因后,我被感动的一塌糊涂

二代饭桶
2020-11-23 11:53:40

BOSS直聘“保姆、助理”暗指性服务,新型“拉皮条”平台谁来监管

青苗法鸣在线
2020-11-23 17:04:27

这次终于瞒不住了!上海终于查明新增病例感染源:果然与北美有关

朵儿茶茶
2020-11-23 23:55:36

女子拒买切糕被摊主碰瓷,律师:两高一部新出的这项意见了解下

李起武律师
2020-11-23 17:42:30

无视25万美国人身死,拜登调转枪口对准中国,中方强硬回应

海峡新讯
2020-11-23 16:24:14

两对夫妇酒后“换妻”,一人得逞,另一人报警,如何评价本案?

事事播报
2020-11-23 15:10:48
2020-11-24 01:44:59
http://dingyue.ws.126.net/YwE48AnSlBZL5dzwb72q9lNvg3eaLxyskRaLs7pPHZINS1489848170235.jpg
量子位
追踪人工智能动态
4262文章数 70991粉丝数
往期回顾 全部

科技要闻

用苹果M1电脑打Windows游戏是什么体验?

头条要闻

官方通报!辽宁盘锦自来水可燃系地下天然气混入

头条要闻

官方通报!辽宁盘锦自来水可燃系地下天然气混入

体育要闻

马基夫-莫里斯1年底薪续约湖人 詹眉强力助手留队

娱乐要闻

不P图也瘦!杨幂生图曝光 脑门抢镜

财经要闻

汽车要闻

够个性挺实用 宝马2系四门轿跑带来独特体验

态度原创

本地
房产
健康
手机
公开课

本地新闻

你瞎玩的转笔,成了00后的致富经

房产要闻

被售楼处拍到脸,买房多花30万?有人戴头盔看房

打玻尿酸变“僵尸脸”咋回事?

手机要闻

用户反馈iOS 14.2.1安装后iPhone 12续航好不少

公开课

为什么我一定要卸载这些app:人生毒药