ISSCC2024 Computing-In-Memory Session 趋势整理
ISSCC2024 Computing-In-Memory Session 趋势整理
今天上午ISSCC2024远东区推介会,主要关注了一下Computing-In-Memory Session。CIM今年被放在了Session 34,会上主持人透露CIM方向一共投稿了50篇,最后录用了9篇,算下来录用率不到20%,不得不感慨一句相当之卷。
言归正题,以下是今年CIM Session录取的9篇论文:
两篇亮点文章:
接下来是我的初步分析和整理。
-
存储介质
从存储介质的角度来说,9篇文章有5篇是纯SRAM(34.1 & 34.3-6),34.2虽然也是纯CMOS,但存储用的是更少晶体管的Gain Cell,34.9则是在工艺上做了Flash和SRAM的集成。剩下两篇中34.7是eDRAM,34.8是RRAM。
整体上来看SRAM CIM仍然是大头,RRAM和eDRAM也是CIM常客不表,34.9在14nm FinFET工艺上做了Flash存储,并结合了Flash CIM和SRAM CIM,感觉很novel,34.2使用了Gain Cell,大概了解了一下这是一种纯晶体管无电容的DRAM Cell,可以参考这篇文章,虽然相比SRAM需要动态刷新,但有更高的存储密度,也是第一次在CIM中见到使用这个的。 -
存算类型
Digital CIM一共四篇,分别是34.1,34.2,34.6和34.8,占据半壁江山。
Analog CIM一共三篇,分别是34.5,34.8,34.9,看似与Digital不遑多让,但考虑到34.8是RRAM CIM,34.9是SRAM+Flash的特殊工艺,两者因为工艺器件的原因自然的选择了Analog,整体上来看如果是标准逻辑工艺,Digital仍然是大势。
有趣的是,剩下有两篇结合了Digital和Analog的Hybrid CIM,34.3和34.6。其中34.6就是笔者的论文,哈哈。Hybrid CIM的主要目标是探索Analog CIM和Digital CIM这两大主流方向的优势互补。实际上ISSCC2023就有论文提出了Hybrid CIM,今年在这个方向上探索的人略有增加。 -
浮点存算
今年的工作可以显著看到更多人关注浮点CIM,有接近半数的文章是浮点CIM,包括34.1,34.2,34.6,34.8。
正如之前的博客所说浮点是一个23年就发现的显著趋势,支持浮点运算的CIM因为可以运行更高精度要求的模型,在可支持的应用上也变得更广了,今年大家继续深挖这个技术也是情理之中。 -
计算负载
还有一个有趣的点是34.3和34.5都考虑了对CNN和Transformer两类计算负载的支持。我们都知道CNN和Transformer目前是CV和NLP两个领域各自的SOTA(虽然CNN目前隐隐约约有被ViT干掉的风险),这两类模型在计算方法上大相径庭,怎么在CIM上同时支持两者确实是一个有趣的问题。
最后做个总结,ISSCC作为集成电路的奥林匹克,还是很有风向标作用的,可以通过这个窗口看到围绕CIM这个技术大家一直在持续探索更多的东西,作为一个热点技术,CIM这个领域的竞争还是非常激烈的,今年侥幸能够中上一篇,也算对得起一起奋斗的老师同学了。
如果要谈点感悟的话,那就是博闻强识,触类旁通很重要,仅仅困在一个小领域里很难冒出好的idea,需要多多接触多多学习其他领域的知识,并且勤加思考,举一反三。