01 2018 档案
摘要：用EM算法估计GMM模型参数 参考 西瓜书 再看下算法流程
阅读全文
摘要：学习hmm近一周的时间，做个总结。 参考 李航的《统计学习方法》第9章，第10章 本文包含： 1.hmm模型 2.前向后向算法 3.Baum-Welch算法 4.维特比算法 1.hmm模型 Q：所有可能的状态的集合（一般是指隐藏状态），N是指可能的状态数 V：所有可能的观测的集合，M是可能的观测数
阅读全文
摘要：参考 拉格朗日乘子法如何理解？ 拉格朗日乘子法 基本的拉格朗日乘子法就是求函数 f(x1,x2,...) 在约束条件 g(x1,x2,...)=0 下的极值的方法。 其主要思想是将约束条件函数与原函数联立，从而求出使原函数取得极值的各个变量的解。 计算过程： 1. 假设需要求极值的目标函数 (obj
阅读全文
摘要：含有隐藏变量时，不好直接求极大似然，可以考虑用EM算法。 参考 （EM 算法）The EM Algorithm 从最大似然到 EM 算法浅解 1.Jensen 不等式 回顾优化理论中的一些概念。 设 f 是定义域为实数的函数，如果对于所有的实数 x，，那么 f 是凸函数。 当 x 是向量时，如果其
阅读全文
摘要：参考 从最大似然到 EM 算法浅解 最大似然估计学习总结 EM 算法及其推广学习笔记 之前已经总结了似然的概念，那么顺其自然的理解就是，求得似然最大值的参数即为想要的参数，也就是参数估计，使用的方法为最大似然估计。 先提出几个问题： 1.最大似然估计求参数的一般流程是怎样的？ 2.什么样的场景适合/
阅读全文
摘要：理解一下这些基础知识 先验概率（prior probability） 是指根据以往经验和分析得到的概率，如全概率公式，它往往作为 "由因求果" 问题中的 "因" 出现的概率。 在贝叶斯统计中，先验概率分布，即关于某个变量 X 的概率分布，是在获得某些信息或者依据前，对 X 之不确定性所进行的猜测。这
阅读全文
摘要：最近要更新一批基础概念，也是一种巩固复习。 参考 "似然函数 Likelihood function" 理论 在数理统计学中，似然函数是一种关于统计模型中的参数的函数，表示模型参数中的似然性。似然函数在统计推断中有重大作用，如在最大似然估计和费雪信息之中的应用等等。“似然性” 与 “或然性” 或 “
阅读全文
摘要：markdown 语法规则 参考 "Markdown——入门指南" 也可以参考这篇 "Markdown: Basics （快速入门）" 一级标题 二级标题 三级标题 列表 无序 1 2 3 有序 1. 1 2. 2 3. 3 需要空一格 这里是引用 ls lh 插入链接 "这里" 是我的博客园首页
阅读全文
摘要：看了 bash101 ，做的一些总结吧，都是些常见用法，易错 1. 有空格会显示多行 2.contine 书里太细了，有空补起来
阅读全文
摘要：只是略微的看了些，有点感觉，还未深入，做个记录。 参考： 隐马尔可夫 (HMM)、前 / 后向算法、Viterbi 算法 再次总结 谁能通俗的讲解下 viterbi 算法？ 数学之美第二版的第 26 章 本文结构： 1.hmm三要素 2.维特比算法 3.简明例子 hmm三要素： 1.初始概率分布 π
阅读全文
摘要：以后要重点搞caldi了，虽然集群上有，但还是本地安装一下吧。 参考 Kaldi 学习手记（一）：Kaldi 的编译安装 在 ubuntu 下安装 kaldi 基本步骤 两个文章基本差不多 1. 需要安装的软件包：gcc,automake,autoconf,subversion,libtool,li
阅读全文
摘要：原文 如何通俗的解释交叉熵与相对熵? 相关公式： 假设现在有一个样本集中两个概率分布 p,q，其中 p 为真实分布，q 为非真实分布。假如，按照真实分布 p 来衡量识别一个样本所需要的编码长度的期望为： H(p)= 信息熵 但是，如果采用错误的分布 q 来表示来自真实分布 p 的平均编码长度，则应该
阅读全文
摘要：参考 常用激活函数比较 本文结构： 什么是激活函数 为什么要用 都有什么 sigmoid ，ReLU， softmax 的比较 如何选择 1. 什么是激活函数 如下图，在神经元中，输入的 inputs 通过加权，求和后，还被作用了一个函数，这个函数就是激活函数 Activation Function
阅读全文
摘要：偶然的机会翻到这篇文章，很全面，来源： Python 资源大全中文版 哪些 Python 库让你相见恨晚？ 环境管理 管理 Python 版本和环境的工具 p：非常简单的交互式 python 版本管理工具。官网 pyenv：简单的 Python 版本管理工具。官网 Vex：可以在虚拟环境中执行命令。
阅读全文
摘要：参考 linux 之 sort 用法 这篇文章其实主要记录以 tab分隔的情况 sort 命令是帮我们依据不同的数据类型进行排序，其语法及常用参数格式： sort [-bcfMnrtk][源文件][-o 输出文件] 补充说明：sort 可针对文本文件的内容，以行为单位来排序。 参 数： -b 忽略每
阅读全文
摘要：不得不说，python还真是方便，要啥有啥 继微信，短信的自动发送之后，邮件也可以了，齐活了 主要参考: 企业263邮箱发送到qq邮箱 qq邮箱发送 ，这个注意一下，qq邮箱需要授权码的， 什么是授权码，它又是如何设置？ 详细一点的，【Python 开发】python 发送各类邮件的方法 这里我就不
阅读全文
摘要：首先分别介绍inotify 与 rsync的使用，然后用两者实现实时文件同步，最后说一下这样的系统存在什么样的问题。 1. inotify 这个具体使用网上很多，参考 inotify-tools 命令使用讲解 Inotify 内核版本支持 从 kernel 2.6.13 开始, Inotify 正式
阅读全文
摘要：参考 Unix 或 Linux 中 &、jobs、fg、bg 等命令的使用方法 对之前文章的一个补充： linux 命令后台运行 这篇还是比较简单的，稍微一带而过 fg、bg、jobs、&、ctrl + z 都是跟系统任务有关的，虽然现在基本上不怎么需要用到这些命令，但学会了也是很实用的 一.& 最
阅读全文
摘要：shell编程里面一直没怎么使用函数，都是用命令，需要写到递归，用函数处理一下，顺带学习一下，做个记录。 参考 Linux&shell 之高级 Shell 脚本编程 - 创建函数 使用函数 （记得空格，函数一定要在使用之前定义，函数名必须唯一） 返回值可以通过 $? 来确定函数的退出状态 使用 re
阅读全文
