随笔分类 - 机器学习
机器学习相关
发表于 2020-12-07 14:43阅读：186评论：0推荐：0
摘要：1-引言和线性回归模型 2-数字知识、多元梯度下降和正规方程 3-分类和过拟合 4-神经网络和反向传播 5-评估模型和误差分析 6-核函数和聚类算法 7-PCA和异常检测 8-推荐算法、大数据集和OCR
阅读全文 »
发表于 2020-11-06 11:29阅读：247评论：0推荐：0
摘要：16 推荐算法 前言 推荐算法是机器学习领域一个重要的应用 预测电影评分 基于内容的推荐算法 手工特征 公式化 优化方法 基于协同过滤的推荐算法 自动学习特征 协同过滤算法 向量化实现 均值规范化 17 大数据集上的机器学习 大数据集 随机梯度下降 随机梯度下降：选择一个样本训练，批量梯度下降：选择
阅读全文 »
发表于 2020-10-31 11:41阅读：846评论：0推荐：0
摘要：14 PCA 第二种无监督学习,降维 可视化数据 50维数据降低到2维进行可视乎 降维方法: PCA(主成成分分析)，降维会忽视一些空间信息，但是会最大限度保留最主要的空间信息 找到超平面，使得投影距离最小 向量化，PCA解决多维问题方法 与线性回归的区别 主成成分分析:算法实现 数据归一化 应用P
阅读全文 »
发表于 2020-10-26 20:55阅读：498评论：0推荐：0
摘要：12 支持向量机SVM 优化目标 使用新的激活函数减缓目标函数的计算 新表达式 SVM直接输出0/1，不输出概率 SVM称为大间距分类器 SVM,大间距分类器 对异常值非常敏感 如果参数C太大 大间距的数学原理 核函数1 非线性决策边界,选择不同特征 核函数,衡量相似度 距离核中心远近 核函数(正态
阅读全文 »
发表于 2020-10-13 08:27阅读：429评论：0推荐：0
摘要：10.模型评估 改进模型思路 举例房价预测中的线性回归模型，如果误差较大，如何改进模型? Get More Examples,减少特征，增加新特征，修改正则化参数 进行机器学习诊断 模型评估 可视化假设函数(可视化评估) 使用训练数据中的30%提取出来进行评估(数据量化评估) 损失计算和误差计算两种
阅读全文 »
发表于 2020-10-12 09:29阅读：171评论：0推荐：0
摘要：8 神经网络基础 思考: 对训练数据的全拟合方法是使用拉格朗日思想即使用简单的多项式的组合进行完全拟合，神经网络就是在全拟合的基础上进行建立模型，模型可以舍弃一些拟合项，这就是神经网络的数学基础。 当特征很多的时候，就不能使用全2次项进行拟合数据，需要考虑交叉乘积项。 视觉特征过多的例子 基于大脑从
阅读全文 »
发表于 2020-10-06 14:08阅读：306评论：0推荐：0
摘要：6 分类 简介 分类任务 线性回归应用于分类效果不好 逻辑回归用于分类任务 激活函数 将线性值收敛到（0，1）之间，形成非线性值 概率解释 决策边界 预测0和1 边界决策问题 损失函数 均方损失函数用于逻辑回归不易收敛(引入了非线性) 新损失函数: 函数性质非常符合损失函数，会使得损失函数是一个凸函
阅读全文 »
发表于 2020-10-05 21:49阅读：176评论：0推荐：0
摘要：3 数学知识 矩阵,向量 矩阵加法和标量乘法 矩阵向量乘法 实际问题转为矩阵模型 矩阵乘法 矩阵乘法特征 不满足交换律 满足结合律 单位矩阵 逆矩阵和转置 逆矩阵,使用代码求解 转置 4 多元梯度下降和特征工程 多特征 记号 多特征线性回归表达式 矩阵表达式 多元梯度下降 矩阵表示 cost fun
阅读全文 »
发表于 2020-09-28 11:30阅读：214评论：0推荐：0
摘要：1 引言 Machine Learning 应用 What is Mechine Learning Machine Learning Algorithms 监督学习 例子1：使用一次或者二次函数模型拟合房价(线性模型非线性模型) 这也是一个回归问题(Regression): 例子2：分类问题(二分类
阅读全文 »
发表于 2019-12-29 11:06阅读：303评论：0推荐：0
摘要：逻辑回归与线性回归 正则化 解决过拟合问题 惩罚项 范数 权重衰减 参考 "https://www.jianshu.com/p/c501ec69864a"
阅读全文 »
