cltt - 博客园

Anomaly Detection

摘要：这里我要强调一下什么叫做异常，机器到底要看到什么就是Anormaly。其实是取决你提供给机器什么样的训练数据应用 1.若你有一个classifier，你希望这个classifier具有：看到不知道的数据会标上这是未知物的能力，这算是异常侦测的其中一种，又叫做Open-set Recognition 阅读全文

posted @ 2020-02-21 12:33 cltt 阅读(458) 评论(0) 推荐(0) 编辑

Backpropagation

摘要：链式法则反向传播计算偏导数举个例子 case1 求出C对y1,y2的偏微分就可以了阅读全文

posted @ 2020-02-19 20:37 cltt 阅读(114) 评论(0) 推荐(0) 编辑

a brief introduction of deep learning

摘要： three steps for deep learning Step1：神经网络（Neural network） Step2：模型评估（Goodness of function） Step3：选择最优函数（Pick best function） neural network 手动连接神经元如： 1 阅读全文

posted @ 2020-02-19 19:30 cltt 阅读(189) 评论(0) 推荐(0) 编辑

李宏毅深度学习第二次作业 Logistic regression 预测年薪超过50W

摘要： 1 import pandas as pd 2 import numpy as np 3 ''' 4 整体和PM2.5差不多 5 参考博客：https://www.cnblogs.com/HL-space/p/10785225.html 6 https://www.cnblogs.com/tingt 阅读全文

posted @ 2020-02-18 18:46 cltt 阅读(542) 评论(0) 推荐(0) 编辑

logistic Regression

摘要：进行数学推导逻辑回顾与线性回顾的差异为什么logistic Regression 不能用square error Discriminative vs Generative 逻辑回归的方法称为Discriminative（判别）方法；上一篇中用高斯来描述后验概率，称为 Generative（生成阅读全文

posted @ 2020-02-17 18:18 cltt 阅读(159) 评论(0) 推荐(0) 编辑

深度学习概率知识

摘要：贝叶斯高斯分布交叉熵根据香浓理论，熵是描述信息量的一种度量，如果某一事件发生的概率越小，也就是不确定性越大，那么熵就越大，或者说是信息量越大我们要让交叉熵尽可能地小，模型预测效果越好在计算CrossEntropyLosss时，真实的label（一个标量）被处理成onehot编码的形式。交阅读全文

posted @ 2020-02-17 11:57 cltt 阅读(202) 评论(0) 推荐(0) 编辑

classification

摘要：这样会认为class 1 ,class 2 接近，有某种关系但实际没有，那么multiple class 没有好的结果理想的方法下面计算各个概率 D：维度。下面的D=2 最大似然估计每一个高斯分布都有可能产生这79个点上面标明，结果不好。那么进行修改model 协方差矩阵与feature s 阅读全文

posted @ 2020-02-16 20:27 cltt 阅读(628) 评论(0) 推荐(0) 编辑

where does the error come from

摘要：偏差和方差 s1... s6应该都取平方 4种情况因此simple model 对应的variance 小、模型的复杂度对error 的影响变化图处理高bias 只包含那些平滑的曲线，可能没包含target,导致影响bias .你刚开始用的test set存在bias ,然而真正的test s 阅读全文

posted @ 2020-02-15 18:29 cltt 阅读(136) 评论(0) 推荐(0) 编辑

机器学习常识

摘要：阅读全文

posted @ 2020-02-15 13:34 cltt 阅读(96) 评论(0) 推荐(0) 编辑

梯度下降

摘要：调节学习率微分大小意味着离最小值的距离 c点和a点c的微分较大，但是离最低点更近。那么微分大小意味着离最小值的距离仅在不跨元素时才成立考虑到二次微分左边：走的稳定右边：步伐小，散乱。但快 feature scaling 特征缩放 w2的变化对y影响大w1的变化对y（loss）影响小，微分阅读全文

posted @ 2020-02-14 22:15 cltt 阅读(140) 评论(0) 推荐(0) 编辑