2021 年 6月随笔档案 - ZhiboZhao

一文详解机器学习的判别指标(精准率，召回率)

摘要：其实大部分的评价指标比如误识率，拒识率等都是根据TP，FP，FN，TN计算出来的，为了方便起见，把他们的关系表示为下表： **为了更好地理解，我把正负样本记做好人和坏人，那么:** 1. TP表示预测为正类的样本中实际也为正样本的个数（本来是好人，预测也是好人） 2. FP表示预测为正类的样本中实际阅读全文

posted @ 2021-06-30 15:31 ZhiboZhao 阅读(1014) 评论(4) 推荐(0) 编辑

信息熵，交叉熵与KL散度

摘要：一、信息熵若一个离散随机变量

X

$X$ 的可能取值为

X = {x_{1}, x_{2}, . . ., x_{n}}

$X = \{ x_{1}, x_{2},...,x_{n}\}$ ，且对应的概率为：

p (x_{i}) = p (X = x_{i})

$p(x_{i}) = p(X=x_{i})$ 那么随机变量

X

$X$ 的熵定义为： \[ H(X) = -\sum_{i=1}^{n}p(x 阅读全文

posted @ 2021-06-29 21:49 ZhiboZhao 阅读(360) 评论(0) 推荐(0) 编辑

一文详解深度学习中的Normalization

摘要：一、深度学习中的 Internal Covariate Shift（ICS）深度学习的训练过程可以看成很多层的叠加，而每一层的参数更新会导致下一层输入数据的分布发生变化，通过层层累加，高层的输入分布变化会非常剧烈导致上层的数据需要不断去变化以适应底层参数的更新。因此学习率，初始化权重等超参数的设阅读全文

posted @ 2021-06-29 21:28 ZhiboZhao 阅读(474) 评论(0) 推荐(0) 编辑

C++ 构造函数和析构函数

摘要：在C++的学习中，可以把类当作一个模具，类所实例化出来的对象就是根据这个模具所产生的实体，对象可以看作是我们自己创建的一个新的数据类型。本文主要介绍了类对象通过拷贝函数进行初始化，分析了类对象的内存模型，以及通过this指针来实现更复杂的功能。最后介绍了析构函数的基础知识。 1、构造函数首先，由于阅读全文

posted @ 2021-06-29 15:46 ZhiboZhao 阅读(1121) 评论(0) 推荐(0) 编辑

C++中的访问权限

摘要：众所周知，C面向对象的三大特性为：封装，继承和多态。下面我们就先对封装做一些简单的了解。封装是通过C中的类来完成的，类是一种将抽象转换为用户定义类型的工具。类的定义如下： class circle { public: //成员变量 int m_L; int m_H; public: //成员函数（方阅读全文

posted @ 2021-06-29 09:40 ZhiboZhao 阅读(1272) 评论(0) 推荐(0) 编辑

C++中指针与引用详解

摘要：在计算机存储数据时必须要知道三个基本要素：信息存储在何处？存储的值为多少？存储的值是什么类型？**因此指针是表示信息在内存中存储地址的一类特殊变量，指针和其所指向的变量就像是一个硬币的两面。**指针一直都是学习C语言的难点，在C++中又多了一个引用的概念。初学时很容易把这两个概念弄混，下面就来通过一阅读全文

posted @ 2021-06-28 20:55 ZhiboZhao 阅读(2994) 评论(2) 推荐(2) 编辑

内存四区之代码区，全局区，栈区和堆区

摘要：C++ 在程序执行时，将内存大致分为代码区，全局区，栈区和堆区四个区域。不同的区域存储不同的数据，赋予不同的生命周期，能够更灵活地进行编程。代码区：存放函数体的二进制代码，由操作系统管理创建，代码区时共享的，对于频繁被执行的程序，只需要存有一份代码即可；全局区：存放全局变量和静态变量以及常量，在阅读全文

posted @ 2021-06-27 19:56 ZhiboZhao 阅读(1656) 评论(2) 推荐(0) 编辑

线性判别分析之python代码分析

摘要：前几天主要更新了一下机器学习的相关理论，主要介绍了感知机，SVM以及线性判别分析。现在用代码来实现一下其中的模型，一方面对存粹理论的理解，另一方面也提升一下代码的能力。本文就先从线性判别分析开始讲起，不熟悉的可以先移步至线性判别分析（Linear Discriminant Analysis, LDA 阅读全文

posted @ 2021-06-26 23:22 ZhiboZhao 阅读(795) 评论(0) 推荐(0) 编辑

线性判别分析（Linear Discriminant Analysis, LDA）

摘要：一、线性判别器的问题分析线性判别分析（Linear Discriminant Analysis, LDA）是一种经典的线性学习方法，在二分类问题上亦称为 "Fisher" 判别分析。与感知机不同，线性判别分析的原理是降维，即：给定一组训练样本，设法将样本投影到某一条直线上，使相同分类的点尽可能地接阅读全文

posted @ 2021-06-26 19:57 ZhiboZhao 阅读(1177) 评论(0) 推荐(0) 编辑

感知机与支持向量机 (SVM)

摘要：感知机与SVM一样都是使用超平面对空间线性可分的向量进行分类，不同的是：感知机的目标是尽可能将所有样本分类正确，这种策略指导下得出的超平面可能有无数个，然而SVM不仅需要将样本分类正确，还需要最大化最小分类间隔，对SVM不熟悉的朋友可以移步我另一篇文章：支持向量机(SVM)之硬阈值 - ZhiboZ 阅读全文

posted @ 2021-06-24 23:22 ZhiboZhao 阅读(1658) 评论(0) 推荐(1) 编辑

支持向量机(SVM)之硬阈值

摘要：支持向量机 ( support vector machine, SVM ) 是使用超平面来对给定的 p 维向量进行分类的非概率二元线性分类器。一、超平面 ( hyperplane ) 在一个p维的输入空间，超平面就是

p - 1

$p-1$ 维的子空间。比如：在一个二维输入的空间，超平面就是一维，也就是直阅读全文

posted @ 2021-06-24 00:34 ZhiboZhao 阅读(1729) 评论(0) 推荐(0) 编辑

矩阵求导

摘要：上一篇文章从数学角度上分析了过拟合产生的原因以及在损失函数中添加正则化从而在一定程度上避免过拟合，并从MLE和MAP两个角度来对线性回归进行建模，进而求解。然而在求解过程中，涉及到一些矩阵求导的基础知识，由于篇幅原因，现在本篇文章中做一个简要说明。对一元函数

y = f (x)

$y=f(x)$ ，输入是一维变量（阅读全文

posted @ 2021-06-22 13:30 ZhiboZhao 阅读(567) 评论(0) 推荐(0) 编辑

从线性回归来理解正则化

摘要：本文主要以线性回归为切入点，分析了过拟合出现的原因以及正则化的理解，并从MLE和MAP两个方面重新对线性回归进行了求解，揭示了MLE，MAP与正则化之间的关系。一、最小二乘的简要回顾假设输入空间为： \(x_{m \times n} = (x_{1}, x_{2},...,x_{i},...,x 阅读全文

posted @ 2021-06-21 23:58 ZhiboZhao 阅读(502) 评论(0) 推荐(0) 编辑

统计学习方法概论

摘要：统计学习（statistical learning）通过基于数据构建的概率统计模型并将其用于对数据进行预测。通俗点讲：统计学习从数据数据出发，通过假设同类数据具有一定的统计规律性，抽象出数据的模型，然后对数据进行分析和预测。统计学习通常分为监督学习，无监督学习，半监督学习和强化学习等，其中，监督学习阅读全文

posted @ 2021-06-21 20:41 ZhiboZhao 阅读(255) 评论(2) 推荐(0) 编辑

ZhiboZhao

06 2021 档案

公告

搜索

常用链接

积分与排名

随笔分类

随笔档案

阅读排行榜

评论排行榜

推荐排行榜

最新评论