摘要：
1. 线性回归 X，Y是线性的 是偏置（有点像截距），防止Y为0，矩阵表示时，为全1 ：数据集收集的时候有误差（高斯误差，均值为0） 表达向量很相似 D：和，代表所有的数据，和相互独立 2. Basic Expansion 2.1 使用Basis expansion捕捉自变量和因变量的非线性关系 2 阅读全文
摘要：
条件随机场（CRF） 0. 预备知识 0.1 概率图模型（Probabilistic Graphical Model，PGM） 概念：图结构，结点（node）表示随机变量，边（edge）表示结点间关系。简而言之，不相连的结点直接毫无关系。 分类： 有向图：贝叶斯网络，变量之间的因果关系 无向图：马尔 阅读全文
摘要：
1. 困难问题与简单问题 生活中：没有具体的量化标准 计算机：时间复杂度（大O表示法） 2. 什么是P,NP,NP Complete （一）P = Polynomial （在多项式时间内得到解决） （二）NP = Non Deterministic Polynomial （对于一个问题，假如能在多项 阅读全文
摘要：
1. 线性规划：Linear programming 1.1 定义线性规划模型的步骤： 线性规划，在线性约束条件下，线性目标函数求极值。（凸优化问题） 步骤： 确定决策变量 确定线性目标函数，求max或min 确定线性约束条件 写出数学模型 1.2 线性规划标准形式 1.3 转换为松驰型 松驰型：用 阅读全文
摘要：
续上：SVM中的kernel 带Kernel 的linear regression kernel可应用到别的算法，不仅仅在SVM 一、常见kernel l 多项式：二维到三维 l 高斯核函数（需要正规化） l sigmoid kernel l cosine similarity kernel l c 阅读全文
摘要：
SVM 一、SVM：找最优分界线 1.1 线性理想SVM == max margin classiler（margin：d1+d2 = 2/w越大越好） 1.2 数学模型 ||w||是w的转置和w相乘，他们的求和实质是不一样的，求和的下标i，j不同 1.3 对偶及其KKT条件 <x^(i),x>点击 阅读全文
摘要：
一、机器学习基础及凸优化 参考：http://cvxopt.org/userguide/coneprog.html 1. 凸函数 1.1 Optimization Categories 1.1.1 convex or non-convex lGlobal optimization or better 阅读全文
摘要：
1. 语音合成zhrtvc：https://github.com/KuangDD/zhrtvc 2.离线语音识别 vosk+kaldi:https://alphacephei.com/vosk/ tacotron:https://github.com/keithito/tacotron kaldi+ 阅读全文
摘要：
HMM（Hidden Markov Model） 相关概念 时序数据（Non-Sequential Data） vs 非时序数据（Sequential Data） 时序数据：文本、天气（长度不固定） 时序模型：HMM、CRF、RNN、LSTM 背景介绍 马尔可夫过程 概念：大概的意思就是未来只与现在 阅读全文
摘要：
EM算法(Expectation-Maximum) 原理篇 本质：概率模型，去估计一个密度函数，最大化对数似然函数去估计参数。无法直接用极大化对数似然函数得到模型分布的参数，用启发式跌代法，用于求解含有隐变量的最大似然估计、最大后延概率估计问题。 隐变量：对概率模型有一定的影响，但无法观测； 观 阅读全文