懒猫后花园

摘要： 很早在纸上推导过梯度的计算方法，但每次都忘记推导过程反复推导。于此想总结新的记忆方法。 梯度下降推导过程难以记忆来自于矩阵微积分，矩阵微积分中涉及标量、向量、矩阵之间两两求导操作，其定义如下图，√ 表示存在定义，x 表示不存在定义[1]： 函数 \ 自变量 scalar vector matrix 阅读全文

摘要： DeepSeek ISCA 2025 [1] 6.4 小节中提到无论 load/store 语义的 scale-up 网络，还是 message 语义的 scale-out 网络，维护一致性都会明显增加额外的通信开销。期望一种既需要程序员通过 acquire/release 等语义编程保证一致性，硬 阅读全文

摘要： 在四月的尾巴终于把第一次流片交出去了。许多前辈曾告诫我流片如何困难，而想要请教却很难得到统一的回答。经过这一轮流片切身怯魅，积攒了一些浅薄的流片 know how 经验分享。 流片要见实物，而想要让数百万千万至数亿晶体管老老实实守本分工作并不是那么轻松。从算法到编译器到RTL到网表到GDS到电路板， 阅读全文

摘要： 熟悉的 AI 加速器领域 on-chip buffer 往往使用 scratchpad memory，对传统 cache 结构接触不多。但 cache 可谓是传统 CPU 架构中最最基础和重要的一个组件，从 cache 的设计思想上或许可以借鉴学习 AI 的访存问题。 SRAM + 映射 = Cac 阅读全文

摘要： 去 ICAC 蹭完饭有一阵了，懒癌发作拖到现在才做心得总结。ICAC 印象最深刻的是复旦陈迟晓老师带来的 《2.5D/3D/3.5D Integration: Fabrication and Chiplet Partition》 演讲。因为先前纯数字架构接触更多一些，对 chiplet 更多是门外汉 阅读全文

摘要： 先前 blog [1] 从能耗角度量化了现在计算问题本质是访存问题，同时提到由于算法和工艺的限制优化应当存在一个上限。这篇 blog 将结合具体 AI workload 探讨这个边界。 访存优化归类 各种加速工作优化核心在于将更多的操作放在底层低密度、低代价的 on-chip memory ，以避开 阅读全文

摘要： 虽然早在 1967 年就已经提出了 Tomasulo 调度算法 [1]，但网上仍很少找到关于落到模块粒度的教程文档。从零复现一遍成本太大，因此用画原理图的方式做思想实验，尝试理解 Tomasulo 在电路上如何实现，文章参考《Computer Architecture:A Quantitative 阅读全文

摘要： RTL 设计工程中遇到一种怪象：虽然可用的人手很多，但很难将任务拆分分配下去，导致人力出现紧张。将原因归因于下： RTL 代码可读性差 抛一个仓库让成员从源码中理解难度颇高。往往需要配合辅助的文档以及频繁对接，这极大分散顶层开发架构师的精力； 控制模块耦合性强 组合逻辑比如计算单元易于解耦，控制逻辑 阅读全文

摘要： 无论片内还是片外访存，存储器的访存代价非常大 [1]。因此有非常多的工作放眼在减少 memory access 以提升系统能耗和表现。我将减少访存归类为三种方法： 发掘数据复用。如矩阵乘法中输入某个矩阵的某一行/列要多次复用读入，依次可以读取一次之后利用先前读取的结果，这一类方法依赖于算法的数据复用 阅读全文

摘要： “做硬件，核心不在硬件”，这半年历程得出了这么似乎有违常理的结论。 现有成本体系下的幸存者 工程科学的发展逻辑 做芯片是工程科学，而非纯理论科学。工程科学的发展是由很多人为历史因素导致的。工程就像在庞大的 design space 搜索，做出来的东西并不是发现了某种普适定律，而是投资某条技术路线。我 阅读全文