摘要:
❝ 本文需要工具: 「excel」 「python3.x」 ❞ 今天突然觉得,我的博客的文章更新这么多了竟然还没有一个封面,觉得首页相当低调了… 首页 正好皮肤带有文章封面功能,所以我觉得要将文章批量加上文章推图! 1.寻找图片 推荐大家一个网站:https://www.pexels.com/ 找到 阅读全文
摘要:
首先定义凸集,如果x,y属于某个集合M,并且所有的θx+(1-θ)f(y)也属于M,那么M为一个凸集。如果函数f的定义域是凸集,并且满足 f(θx+(1-θ)y)≤θf(x)+(1-θ)f(y) 则该函数为凸函数。 如果函数存在二阶导并且为正,或者多元函数的Hessian矩阵半正定则均为凸函数。 「 阅读全文
摘要:
「(1) 0 1 loss」 记录分类错误的次数。 「(2)Hinge Loss」 最常用在SVM中「最大优化间隔分类」中,对可能的输出t=±1和分类器分数y,预测值y的hinge loss定义如下: L(y)=max(0.1 t y) 「(3)Log Loss对数损失」 对于「对数函数」,由于其具 阅读全文
摘要:
常用梯度下降法与优化器 机器学习中大部分为优化问题,而绝大部分优化问题都可以使用「梯度下降法」处理。 梯度下降法的数学原理是函数沿着梯度方向具有「最大变化率」,那么在优化目标函数时沿着负梯度方向去减少函数值,以此达到优化目标。 通过迭代的方式寻找「最优参数」,最优参数是指是目标函数达到最小值时的参数 阅读全文
摘要:
偏差度量了学习算法的期望与真实结果的偏差,刻画了算法本身的「拟合能力」,方差度量了同样大小的训练集的变动所导致的学习性能的变化。 偏差与方差 偏差用于描述模型的拟合能力,方差用来描述模型的稳定性。 当训练度不足的时候,偏差主导模型的泛化误差; 当训练进入后期,模型的拟合能力增强,方差主导模型的泛化误 阅读全文
摘要:
Q1 过拟合与欠拟合的区别是什么,什么是正则化 欠拟合指的是模型不能够再训练集上获得足够低的「训练误差」,往往由于特征维度过少,导致拟合的函数无法满足训练集,导致误差较大。 过拟合指的是模型训练误差与测试误差之间差距过大;具体来说就是模型在训练集上训练过度,导致泛化能力过差。 「所有为了减少测试误差 阅读全文
摘要:
Q1 数据预处理主要包括什么 「无量纲化」 无量纲化主要解决数据的「量纲不同」的问题,使不同的数据转换到「同一」规格,常见的方法有「标准化」和「区间缩放法」。标准化的假设前提是特征值服从「正态分布」。区间放缩法利用了「边界值」信息,将特征的取值区间缩放到某个「特点」的范围,列如[0,1]等。 (1) 阅读全文
摘要:
常用的性能度量指标有:「精确率」、「召回率」、「F1」、「TPR」、「FPR」。 预测为真 预测为假 真实为真 TP(true positive) FN(false negative) 真实为假 FP(false positive) TN(true negative) 「精确率」Precision= 阅读全文
摘要:
1)「均方误差」 是反映估计值与被估计量之间差异程度的一种度量。 2)「RMSE均方根误差」 观测值与真值偏差的平方和与观测次数m比值的平方根,用来衡量观测值同真值之间的偏差。 3)「SSE和方误差」 4)「MAE」 直接计算模型输出与真实值之间的平均绝对误差 5)「MAPE」 不仅考虑预测值与真实 阅读全文
摘要:
Q1 机器学习如何分类 按照任务类型可分为: 「回归模型」:例如预测明天的股价。「分类模型」:将样本分为两类或者多类。「结构化学习模型」:输出的不是向量而是其他「结构。」 按照学习理论可分为: 「监督学习」:学习的样本「全部」具有标签,训练网络得到一个最优模型。「无监督学习」:训练的样本「全部」无标 阅读全文