摘要：
LU分解在本质上是高斯消元法的一种表达形式。实质上是将A通过初等行变换变成一个上三角矩阵，其变换矩阵就是一个单位下三角矩阵。这正是所谓的杜尔里特算法（Doolittle algorithm）：从下至上地对矩阵A做初等行变换，将对角线左下方的元素变成零，然后再证明这些行变换的效果等同于左乘一系列单位下 阅读全文
posted @ 2019-03-18 17:41 Charlie_ODD 阅读(1115) 评论(0) 推荐(0) 编辑
摘要：
基本并行实现的讨论： 正如前面所讲的，矩阵相乘过程中，结果矩阵C中的每个元素都是可以独立计算的，即彼此之间并无依赖性。所以如果采用更多的处理器，将会显著地提高矩阵相乘的计算效率。 对于大小为n × n 的矩阵，加入我们有n个处理器，那么结果矩阵中的每一行，都可以用一个处理器来负责计算。此时，总共的并 阅读全文
posted @ 2019-03-18 17:36 Charlie_ODD 阅读(7799) 评论(0) 推荐(0) 编辑
摘要：
串行计算： 并行计算： 这里我们假定了要解决的问题完全可分为4个独立运行的部分，由4个processors来独立运行。实际问题中，独立性和关联性是一个“太极”关系，就涉及到划分的粒度和通讯的频率等等问题。 计算机系统可以分为以下四类： 单指令单数据流（SISD）：一个单处理器执行一个单指令流，对保存 阅读全文
posted @ 2019-03-16 13:16 Charlie_ODD 阅读(1469) 评论(0) 推荐(0) 编辑
摘要：
一、基本概念 （1）一种使用多阶段决策过程最优的通用方法。 （2）动态规划过程是：每次决策依赖于当前状态，又随即引起状态的转移。一个决策序列就是在变化的状态中产生出来的，所以，这种多阶段最优化决策解决问题的过程就称为动态规划。 假设问题是由交叠的子问题所构成，我们就能够用动态规划技术来解决它。一般来 阅读全文
posted @ 2018-12-18 16:32 Charlie_ODD 阅读(21637) 评论(0) 推荐(0) 编辑
摘要：
一、基本概念 在计算机科学中，分治法是一种很重要的算法。字面上的解释是“分而治之”，就是把一个复杂的问题分成两个或更多的相同或相似的子问题，再把子问题分成更小的子问题……直到最后子问题可以简单的直接求解，原问题的解即子问题的解的合并。这个技巧是很多高效算法的基础，如排序算法(快速排序，归并排序)，傅 阅读全文
posted @ 2018-12-17 09:02 Charlie_ODD 阅读(24929) 评论(0) 推荐(1) 编辑
摘要：
一.与CUDA相关的几个概念：thread，block，grid，warp，sp，sm。 sp: 最基本的处理单元，streaming processor 最后具体的指令和任务都是在sp上处理的。GPU进行并行计算，也就是很多个sp同时做处理 sm:多个sp加上其他的一些资源组成一个sm, stre 阅读全文
posted @ 2018-12-01 15:40 Charlie_ODD 阅读(3460) 评论(0) 推荐(0) 编辑
摘要：
1） 极/最大似然估计 MLE 给定一堆数据，假如我们知道它是从某一种分布中随机取出来的，可是我们并不知道这个分布具体的参，即“模型已定，参数未知”。例如，我们知道这个分布是正态分布，但是不知道均值和方差；或者是二项分布，但是不知道均值。 最大似然估计（MLE，Maximum Likelihood 阅读全文
posted @ 2018-11-29 19:39 Charlie_ODD 阅读(1663) 评论(0) 推荐(0) 编辑