摘要:
一、目录 目录 决策树初步认知 决策树--ID3算法 决策树--C4.5算法 决策树--CART CART算法的剪枝 决策树的优缺点 其他补充 总结 二、决策树初步认知 决策树算法在机器学习中算是很经典的一个算法系列了。它先按照影响结果的主要因素进行排序,选取最主要的因素先进行分岔,依次循环下去。各 阅读全文
摘要:
目录 简述 二元逻辑回归的模型 二元逻辑回归的损失函数及推导 二元逻辑回归的正则化 二元逻辑回归的推广:多元逻辑回归 总结 一、简述 逻辑回归是一个分类算法(区别与线性回归),它可以处理二元分类以及多元分类。虽然它名字里面有"回归"两个字,却不是一个回归算法。那为什么有"回归"这个误导性的词呢?个人 阅读全文
摘要:
目录 案例 完成代码 执行结果截图 实验总结分析 对于实验的改进意见 一、案例 二、完成代码 %matplotlib inline import numpy as np import pandas as pd import matplotlib.pyplot as plt from numpy im 阅读全文
摘要:
在求解机器学习算法的模型参数,即无约束优化问题时,梯度下降(Gradient Descent)是最常采用的方法之一,另一种常用的方法是最小二乘法(在【2】中已经讲解了)。这里就对梯度下降法做一个完整的总结。 一、简述 在微积分里面,对多元函数的参数求∂偏导数,把求得的各个参数的偏导数以向量的形式写出 阅读全文
摘要:
目录 最小二乘法的原理与要解决的问题 最小二乘法的代数法解法 最小二乘法的矩阵法解法 最小二乘法的局限性和适用场景 常见问题 最小二乘法是用来做函数拟合或者求函数极值的方法。在机器学习,尤其是回归模型中,经常可以看到最小二乘法的身影,这里就对我对最小二乘法的认知做一个小结。 一、最小二乘法的原理与要 阅读全文
摘要:
线性回归可以说是机器学习中最基本的问题类型了,这里就对线性回归的原理和算法做一个小结 目录 背景 简述 内容详解 密度聚类 层次聚类 模型效果判断 附件:手写推导过程练习 一、线性回归函数定义 二、线性回归的模型函数和损失函数由来 原因:中心极限定理 实际问题中,很多随机现象可以看做众多因素的独立影 阅读全文