败家小林

摘要： 一、题目展示 请实现一个函数，把字符串 s 中的每个空格替换成"%20"。 示例 1： 输入：s = "We are happy." 输出："We%20are%20happy." 二、题意理解及思路 1、 首先在PYTHON中关于数据类型的规定是字符串不可变，所以我们是不可能在原字符串的基础上直接进 阅读全文

摘要： 神经网络的起源-线性回归 概念：线性关系来描述输入到输出的映射关系 应用场景： 网络分析、银行风险分析、基金股价预测、天气预报 优化方法：梯度下降 梯度下降法总结 线性回归的局限 非线性激励 常用的非线性激励函数 神经网络的构建 神经元-神经网络 神经元的“并联”和“串联” 神经网络求导-Tenso 阅读全文

摘要： 知识结构 深度学习：传统到现在 深度学习框架比较 基本概念 阅读全文

摘要： 概述 隐马尔科夫模型的贝叶斯网络 x1和z2不独立，x1和x2也不独立 HMM的确定 hmm的参数 HMM的两个基本性质 HMM的3个基本问题 概率计算问题 直接计算法（暴力计算） 定义：前向概率-后向概率 前向算法 后向算法 前向后向概率的关系 单个状态的概率 监督学习方法 两个状态的联合概率 学 阅读全文

摘要： 朴素贝叶斯的分析 Beta分布 共轭先验分布 Dirichlet分布 期望 对称Dirichlet分布 参数分析 多项分布的共轭分布是Dirichlet分布 LDA 解释 迭代求超参方法 主题个数的确定 相似度最小 选取初始的主题个数K，训练LDA模型，计算各主题之间的相似度 增加或减少K的值，重新 阅读全文

摘要： 复习 相对熵 互信息 信息增益 概率 贝叶斯公式带来的思考 朴素贝叶斯 假设 一个特征出现的概率，与其他特征（条件）独立（特征独立性） 含义：对于给定分类条件下，特征独立 每个特征同等重要 朴素贝叶斯的推导 高斯朴素贝叶斯 多项朴素贝叶斯 贝叶斯网络 一个简单的贝叶斯网路 全连接贝叶斯网络 一个“正 阅读全文

摘要： 复习Jensen不等式 引子：K-means算法 EM算法 在统计计算中，最大期望（EM）算法是在概率（probabilistic）模型中寻找参数最大似然估计或者最大后验估计的算法，其中概率模型依赖于无法观测的隐藏变量（Latent Variable）。 最大期望经常用在机器学习和计算机视觉的数据聚 阅读全文

摘要： 聚类 聚类定义 对大量未知标注的数据集，按数据的内在相似性将数据集划分为多个类别，使类别内的数据相似度较大，而类别间的数据相似度较小--无监督 相似度计算方法 Jaccard相似度的由来 余弦相似度与Pearson相似系数 基本思想 给定一个有N个对象的数据集，构造数据的k个簇，k<n 。满足以下条 阅读全文

摘要： 线性可分支持向量机 分割超平面 输入数据 整理符号 推导目标函数 最大间隔分割超平面 拉格朗日乘子法 SVM中系数的求解：SMO 线性可分支持向量机学习算法 线性支持向量机 线性支持向量机学习算法 核函数 经典SVM直接输出类别，不给出后验概率 SVM框架引入Logistic函数，输出条件后验概率 阅读全文

摘要： 提升的概念 提升算法 提升算法推导 梯度提升决策树 决策树的描述 正则项的定义 目标函数的计算 目标函数继续化简 子树划分 Adaboost 误差上限 方差与偏差 Bagging能够减少训练方差，对于不剪枝的决策树、神经网络等学习器有良好的集成效果 Boosting减少偏差，能够基于泛化能力较弱的学 阅读全文