合集-西瓜书+南瓜书学习笔记

西瓜书第3章线性模型-线性回归
摘要：线性回归知识点总结 1. 概念 线性回归的目标是通过输入变量（特征）与输出变量之间的线性关系，来预测输出值。它可以分为两类： 简单线性回归：只有一个输入特征 ( x )，模型形式为： \[y = \theta_0 + \theta_1 x + \epsilon \]其中，\(\theta_0\) 是 阅读全文
posted @ 2024-10-19 23:11 yswtg 阅读(135) 评论(0) 推荐(0)
西瓜书第3章线性模型-对数几率回归
摘要：对数几率回归 (Logistic Regression) 1. 基本形式 对数几率回归是一种二分类问题中的线性模型，其目的是预测一个样本属于某个类别的概率。其预测输出为一个介于0和1之间的概率值。 对于给定的输入特征向量 \(\mathbf{x} = [x_1, x_2, ..., x_n]^T\) 阅读全文
posted @ 2024-10-22 22:16 yswtg 阅读(275) 评论(0) 推荐(0)
西瓜书1、2章学习笔记
摘要：第一章 绪论 1.1 机器学习任务类型 若预测的是离散值，为分类任务，只涉及两个类别为二分类，涉及多个类别为多分类。 若预测的是连续值，为回归任务。 根据训练数据是否有标记信息，可分为监督学习和无监督学习，分类和回归是前者的代表，聚类是后者的代表。 1.2 机器学习的目标 具有强泛化能力（泛化能力： 阅读全文
posted @ 2024-10-16 23:08 yswtg 阅读(54) 评论(0) 推荐(0)
西瓜书第3章线性模型-线性判别分析
摘要：线性判别分析（LDA） 线性判别分析（Linear Discriminant Analysis, LDA）是一种经典的分类方法，主要用于降维和分类任务。LDA假设数据集中的不同类别服从高斯分布，并通过找到能够最有效区分类别的投影方向，实现数据的分类。 1. 基本原理 LDA的基本思想是找到一个投影方 阅读全文
posted @ 2024-10-25 22:12 yswtg 阅读(424) 评论(0) 推荐(0)
西瓜书第4章决策树
摘要：决策树（Decision Tree）算法 决策树是一种用于分类和回归任务的监督学习算法。其通过树形结构表示数据的决策过程，并且具有易于理解、易于解释的优点。决策树常用的算法有ID3、C4.5、CART等，下面将从算法原理、迭代过程、剪枝等方面详细介绍。 1. 算法原理 决策树通过将数据集逐层划分来生 阅读全文
posted @ 2024-10-28 22:10 yswtg 阅读(281) 评论(0) 推荐(0)
西瓜书第5章神经网络
摘要：神经网络知识点总结 1. 神经元模型 神经网络的基本单位是神经元（Neuron），神经元模型借鉴了生物神经元的构造。一个典型的人工神经元可以表示为： 输入信号：$ x_1, x_2, \dots, x_n $ 权重：$ w_1, w_2, \dots, w_n $ 偏置：$ b $ 输出：$ y $ 阅读全文
posted @ 2024-10-31 23:57 yswtg 阅读(116) 评论(0) 推荐(0)
西瓜书第六章支持向量机
摘要：支持向量机 (SVM) 1. 间隔与支持向量 SVM 的目标是找到一个超平面，将不同类别的数据分开，并最大化分隔的间隔。定义间隔为两类样本点到分类超平面的最小距离。对线性可分情况，假设数据集为： \[\{(\mathbf{x}_i, y_i) | \mathbf{x}_i \in \mathbb{R 阅读全文
posted @ 2024-11-03 19:32 yswtg 阅读(139) 评论(0) 推荐(0)