随笔分类 - Machine Learning
”Deep Learning is a kind of Machine Learning, and
Machine Learning is a kind of Artificial Intelligence.”
摘要：ref： https://zhuanlan.zhihu.com/p/110590953 https://www.zhihu.com/search?type=content&q=%E5%8C%88%E7%89%99%E5%88%A9%E5%8C%B9%E9%85%8D%20%E8%B7%9F%E8%B
阅读全文
摘要：https://www.cnblogs.com/DicksonJYL/p/9541432.html 观点： 1、数学是必须的。 数学对于机器学习来说是必备基础，数学是内功，你要理解一个算法的内在逻辑，没有数学是不行的。以后跑算法的时候，你可能就是调参、调包，不会用到数学。但是你发现效果不好的时候，如
阅读全文
摘要：一、常用分类算法的优缺点 二、正确率能很好的评估分类算法吗 不同算法有不同特点，在不同数据集上有不同的表现效果，根据特定的任务选择不同的算法。如何评价分类算法的好坏，要做具体任务具体分析。对于决策树，主要用正确率去评估，但是其他算法，只用正确率能很好的评估吗？ 答案是否定的。 正确率确实是一个很直观
阅读全文
摘要：一、期望 在概率论和统计学中，数学期望（或均值，亦简称期望）是试验中每次可能结果的概率乘以其结果的总和。它反映随机变量平均取值的大小。 线性运算： 推广形式： 函数期望：设f(x)为x的函数，则f(x)的期望为 离散函数： 连续函数： 注意： 函数的期望不等于期望的函数； 一般情况下，乘积的期望不等
阅读全文
摘要：蔡佳 绪论 学科概述 最优化是从所有可能的方案中选择最合理的一种方案，以达到最佳目标的科学。 达到最佳目标的方案是最优方案，寻找最优方案的方法 最优化方法（算法）。 这种方法的数学理论即为最优化理论。 是运筹学的方法论之一，是其重要组成部分。 基本概念： 在一些例子中，如选址问题等，有的目标函数和约
阅读全文
摘要：一、Training of a Single-Layer Neural Network 1 Delta Rule Consider a single-layer neural network, as shown in Figure 2-11. In the figure, d i is the co
阅读全文
摘要：主要内容： 点估计： 矩估计 极大似然估计 点估计的评判准则 区间估计： 置信区间 符号说明： 1 参数估计问题 2 点估计 2.1 矩估计 矩估计法的基本思想是根据大数定律，利用样本矩对总体分布矩进行估计。 然后利用总体矩与参数的关系来对参数进行估计。 记号： 矩估计的基本原理：大数定律 例1：两
阅读全文
摘要：目录： 积分学 理解积分：无穷求和，体积 微积分基本定理：牛顿-莱布尼兹公式 概率空间 随机变量与概率：概率密度函数的积分 条件概率 共轭分布 大数定律和中心极限定理 随机变量的矩 切比雪夫不等式 大数定律 中心极限定理 数学记号说明： 1 理解积分：无穷求和，体积 1.1 单变量函数黎曼积分 理解
阅读全文
摘要：主要内容： 极限： 复习极限记号，无穷大无穷小阶数 微分学（尚不讲积分）： 复习函数求导，泰勒级数逼近 牛顿法与梯度下降法 Jensen不等式 复习凸函数，Jensen不等式的证明 一些记号说明： 1 极限 通俗语言适合说给对方听，数学记号适合写给对方看，精确描述比较啰嗦但是非常精确不会造成误解，主
阅读全文
摘要：目录： 机器学习基础： 机器学习的分类与一般思路 微积分基础： 泰勒公式，导数与梯度 概率与统计基础： 概率公式、常见分布、常见统计量 线性代数基础： 矩阵乘法的几何意义 这是一张非常著名的图，请仔细挖掘其信息量。以期它在整体上指引我们的学习。 1 机器学习基础 1.1 机器学习分类 有监督学习、无
阅读全文
