随笔分类 - 数值计算
摘要:
Roofline模型原理 Roofline模型是由加州理工大学伯利克提出的用来建立当前计算平台在不同的计算强度(Operational Intensity)下能够达到的理论计算上限 。论文和基础理论和应用 Roofline Model与深度学习模型的性能分析 。本文旨在教授如何根据当前开发环境机器建
阅读全文

摘要:理论 在求解n维线性系统 \(Ax=b\) ,我们通常将因子$A$分解为两个三角矩阵,即 \(A=LU\) : \(L\) 是下三角,其中 \(L=[l_{i,j}]\) , 并满足当$j>i$ 时,\(l_{i,j}=0\) 和 \(l_{i,i}=1\) 。 \(U\) 是上三角,其中 \(U=
阅读全文