统计学习方法——第四章朴素贝叶斯及c++实现

摘要: 1、名词解释 贝叶斯定理,自己看书,没啥说的,翻译成人话就是,条件A下的bi出现的概率等于A和bi一起出现的概率除以A出现的概率。 记忆方式就是变后验概率为先验概率,或者说,将条件与结果转换。 先验概率:某件事情发生概率 后验概率:某件事情发生后,由于某个原因引起的概率大小。 2、朴素贝叶斯代码 # 阅读全文
posted @ 2018-07-18 20:01 maxwell_tesla 阅读(868) 评论(1) 推荐(0) 编辑

统计学习方法——第二章的c++实现

摘要: 1、东西搞丢了,只写一部分 2、算法那收敛性 证明逻辑: a、γ是yi*(wopt*Xi)最小值 b、R是Xi最小值 c、k<=(R/γ)^2 难打公式,直接说,Wk由Wk-1迭代而来,所以事实上,只需要找到迭代第三项就可以了,迭代第三项有R有eta,Wk的迭代公式有,通过放缩,得到k,eta,R的 阅读全文
posted @ 2018-07-16 21:26 maxwell_tesla 阅读(203) 评论(0) 推荐(0) 编辑

python函数带不带括号的问题

摘要: Python带括号返回的是该函数的返回值 不带括号返回的是该函数的位置信息等 阅读全文
posted @ 2018-06-06 09:24 maxwell_tesla 阅读(1297) 评论(0) 推荐(0) 编辑

numpy中的range()

摘要: 1、arange返回一个array对象,arange(5)=([0,1,2,3,4]) 2、如果是两个参数,第一个参数是起点,第二个参数是终点 3、如果是三个参数,那么第三个参数就是步长 阅读全文
posted @ 2018-06-05 11:14 maxwell_tesla 阅读(2149) 评论(0) 推荐(0) 编辑

逻辑斯蒂和最大熵-李航

摘要: 1、逻辑斯蒂分布 sigmoid 曲线 二项逻辑斯蒂回归模型,实际上是二项判别模型。 基于逻辑斯蒂的似然函数等于每个取值的概率之积。对数似然是对他们取log 多项逻辑斯蒂回归,实际是二项的扩展。 2、最大熵模型 由5.2.2节的熵模型。使我们需要的公式。 所谓最大熵,是指83页定义的条件熵的最大熵。 阅读全文
posted @ 2018-05-17 22:57 maxwell_tesla 阅读(217) 评论(0) 推荐(0) 编辑

李航——决策树代码

摘要: 感觉最后面的地方有点乱了 有空优化一下。 阅读全文
posted @ 2018-05-16 15:36 maxwell_tesla 阅读(188) 评论(0) 推荐(0) 编辑

决策树-李航

摘要: 1、所谓决策树模型,是通过重要性依次向下绘出的,越重要的越在上面。 决策树有节点和有向边组成。结点有两种类型,内部节点和叶结点,内部节点表示一个属性,叶子节点表示一个类。 决策树的数学意义在于 ,条件概率分布。举一个简单的例子:一个人去银行贷款,他的年龄、收入、房子、车子都能决定他是否能贷到款。我们 阅读全文
posted @ 2018-05-15 23:01 maxwell_tesla 阅读(134) 评论(0) 推荐(0) 编辑

sklearn逻辑回归库函数直接拟合数据

摘要: 第一步,划分元素训练集和测试集,用model_selection。train_test_split指定分类数据集,答案,测试大小。 第二部,使用logisticRegression。fit函数来训练x_train,y-train. 第三步,测试,用logisticregression。predict 阅读全文
posted @ 2018-05-14 15:27 maxwell_tesla 阅读(378) 评论(0) 推荐(0) 编辑

基于numpy的绘图

摘要: 1、读取数据,用np.loadtxt函数读取csv中的数据,前面为读取的文件,后面delimiter表示分界符是什么,对于csv文件,一般用“”,“”作为分界符 2、新矩阵赋值,我们希望用其中两列的数据来绘图,同时,用第三列的数据来决定不同种类的不同颜色。 所以,将前两列数据赋给x,将最后一列数据赋 阅读全文
posted @ 2018-05-14 15:10 maxwell_tesla 阅读(423) 评论(0) 推荐(0) 编辑

机器学习——3线性模型

摘要: 1、线性模型的基本形式 2、线性模型的线性回归,有序关系均分1,无序关系化向量。 3、由均方误差最小值来进行模型求解的方法叫做最小二乘法。将均方误差关于w关于b求导,得到0,即得最优解。 4、多元线性回归。将数据集表示为矩阵,标记也写成矩阵式。 转置矩阵乘以原矩阵得到平方项,用来搞出来均方差。 5、 阅读全文
posted @ 2018-05-13 22:29 maxwell_tesla 阅读(225) 评论(0) 推荐(0) 编辑