随笔分类 - 机器学习
摘要：介绍下批量梯度下降和随机梯度下降 文中在M个训练样本中，w代表权重，b代表截距，x代表特征，y代表标签，ÿ代表训练值，i代表的第i个样本 使用的是均误方差： 1.批量梯度下降 批量梯度下降法是最原始的形式，它是指在每一次迭代时使用所有样本来进行梯度的更新。从数学上理解如下： 求w关于L的偏导数： 求
阅读全文
摘要：KNN（最邻近规则分类K-Nearest-Neighibor)KNN算法 1. 综述 1.1 Cover和Hart在1968年提出了最初的邻近算法 1.2 分类(classification)算法 1.3 输入基于实例的学习(instance-based learning), 懒惰学习(lazy l
阅读全文
摘要：样本选自周志华老师的西瓜书 样本： 将上面的样本制作成为一个CSV文件，保存的编码为utf8，文中保存在/home/jsj/datetest/下名字wm20.csv 需要导入的文件： 1）导入文件： 这段代码的运行结果： <_csv.reader object at 0x7fa77d171198>
阅读全文
摘要：机器学习中分类和预测算法的评估： 准确率 速度 强壮行 可规模性 可解释性 准确率 速度 强壮行 可规模性 可解释性 1）什么叫做决策树 判定树是一个类似于流程图的树结构：其中，每个内部结点表示在一个属性上的测试，每个分支代表一个属性输出，而每个树叶结点代表类或类分布。树的最顶层是根结点。 小明进行
阅读全文
摘要：1. 机器学习 （Machine Learning, ML) 1.1 概念：多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。 1.2 学科定位：人工智能(Ar
阅读全文
