摘要:
一、XGBoost参数 xgboost参数可以分为三种类型:通用参数、booster参数以及学习目标参数 General parameters:参数控制在提升(boosting)过程中使用哪种booster,常用的booster有树模型(tree)和线性模型(linear model)。 Boost 阅读全文
摘要:
官网:https://scikit-learn.org/stable/modules/generated/sklearn.decomposition.PCA.html 官网语法如下: class sklearn.decomposition.PCA(n_components=None, *, copy 阅读全文
摘要:
np.mat(a) 可将a转化为矩阵,a的类型可以是df.values,数组,list等等,用mat函数转换为矩阵之后可以才进行一些线性代数的操作 import numpy as np np.eye(5) ''' array([[1., 0., 0., 0., 0.], [0., 1., 0., 0 阅读全文
摘要:
2021-04-26增加 一、PCA所需知识 1. 向量表示与基变换 我们先来介绍些线性代数的基本知识。 1.1 内积 两个向量的 A 和 B 内积我们知道形式是这样的: 内积运算将两个向量映射为实数,其计算方式非常容易理解,但我们无法看出其物理含义。接下来我们从几何角度来分析,为了简单起见,我们假 阅读全文
摘要:
方块矩阵,或简称方阵,是行数及列数皆相同的矩阵 所有正交矩阵都是方块矩阵 单位矩阵是方块矩阵环的单位元 阅读全文
摘要:
一、单位矩阵的定义 主对角线上的元素都为1,其余元素全为0的n阶矩阵称为n阶单位矩阵,记为或,通常用 I 或 E 来表示 在线性代数中,大小为n的单位矩阵是主对角线上均为1,其余地方都是0的n x n的方阵,它用表示: 同时单位矩阵也可以简单地记为一个对角线矩阵: 二、单位矩阵的性质 根据矩阵乘法的 阅读全文
摘要:
代数定义: 设二维空间内有两个向量和,定义它们的数量积(又叫内积、点积)为以下实数: 更一般地,n维向量的内积定义如下: 其中两个维度相同的向量的内积也可以表示为: 几何定义(只适用于2维和3维空间): 运算律: 交换律: 分配律: 结合律: ,其中m是实数 公式是很容易理解,但是意义呢? 内积运算 阅读全文
摘要:
一、SVM 支持向量机(SupportVector Machines)的主要思想是:SVM试图寻找一个超平面来对样本进行分割,把样本中的正例和反例用超平面分开,但是不是很敷衍地简单的分开,而是尽最大的努力使正例和反例之间的间隔margin最大。这样它的分类结果才更加可信,而且对于未知的新样本才有很好 阅读全文