摘要： Ensemble learning 集成算法 目的：让机器学习效果更好，单个不行，群殴走起 Bagging：并行 训练多个分类器取平均 全称：bootstrap aggregation（说白了就是并行训练一堆分类器） 最典型的代表就是随机森林啦 随机：数据采样随机，特征选择随机 森林：很多个决策树并 阅读全文

摘要： anaconda -4.5.11 python-3.6.5 scikit-learn-0.19.1 ## 树模型参数: - 1.criterion gini or entropy gini系数或者熵值 - 2.splitter best or random 前者是在所有特征中找最好的切分点 后者是在 阅读全文

摘要： 数据：14天打球情况 特征：4种环境变化，outlook观察，temperature温度，humidity湿度，windy刮风 目标：构造决策树 根据四种特征决策play 划分方式：4种 问题：谁当根节点呢？ 依据：信息增益 在历史数据中（14天）有9天打球，5天不打球，所以此时的熵应为： 关于lo 阅读全文

摘要： 树模型： 决策树：从根节点一步一步走到叶子节点（决策） 所有的数据最终都会落到叶子节点，既可以做分类也可以做回归 例如： 一家5个人是否愿意玩电脑游戏： 树的组成： 根节点：第一个选择点 最重要的节点，也是分类效果最明显的方式 非叶子节点与分支：中间过程 进一步的分类，效果没有根节点明显 叶子节点： 阅读全文

摘要： 正则化惩罚项： 原先的回归算法算出的$\Theta _{1}...\Theta _{10}$ 如果有2个模型A，B A有$\Theta _{1}...\Theta _{10}$ B也有$\Theta _{1}...\Theta _{10}$ 如果两个recall值都是90%，但是分布不同 模型的参数 阅读全文

摘要： 运行结果： D:\Python\python.exe G:/编程/python/project/TYD/01/01/10/creditcard.pyIteration is stopped Time V1 V2 V3 ... V27 V28 Amount Class0 0.0 -1.359807 - 阅读全文

摘要： 约定符号： m = 训练样本数 X = 输入变量（特征） Y = 输出变量（目标变量） (X,Y) = 表示一个样本 $\left ( X^{(i)},Y^{(i)} \right )$ = 第i个样本（上标i不是指数） 用线性表示则是： $h\left ( X \right )=\Theta _{ 阅读全文

摘要： 什么是机器学习？ 非正式定义：在不直接针对问题进行编程的情况下，赋予计算机学习能力的一个研究领域 于一个计算机程序来说，给它一个任务T，和一个性能测量方法P，如果在经验E的影响下，P对T的测量结果得到了改进，那么就说该程序从E中学习。 监督学习： 我们给算法提供了一种标准答案，我们希望算法学习标准输 阅读全文

摘要： python - 3.7 pycharm numpy-1.15.1 pandas-0.23.4 matplotlib-2.2.3 运行结果： ***Originaldata- learning rate:1e-06-GradientdescentStop:5000-iterationsTheta:[ 阅读全文

摘要： python - 3.7 pycharm numpy-1.15.1 pandas-0.23.4 matplotlib-2.2.3 运行结果： D:\Python\python.exe G:/编程/python/project/TYD/01/01/09/logireg_data.py Exam 1 E 阅读全文