摘要：
来自ng 的ml-003 15_XV._Anomaly_Detection 异常检测本是一个无监督问题，但是也类似于一个有监督问题。就是在大量的无标签数据中检测那些异常的样本 一、异常检测的概念 假设是考虑的飞机引擎问题，这里有至少2个特征，图中的红色叉就是根据以往的数据所可视化的正常的样本，这是按 阅读全文
摘要：
ng-ml-003 中的14_XIV._Dimensionality_Reduction 一、数据压缩 其实维度约间就是为了将一个样本在维度很高的情况下省略很多不需要的特征，使得能够以很少的特征数量来表示一个样本的表征，但是却也需要保存精度，其中最出名的要数PCA了， 这里是举例将多个样本从原有的2 阅读全文
摘要：
依旧来自于ng的ml-003中的clustering部分课程 聚类是极其学习中永不过时的问题，一般有着有监督和无监督 还有半监督，但是视频中主要还是说的前两个。 一、聚类引言 一 上下两个图就是直观的说明什么是有监督训练什么是无监督训练。可以看出当有监督训练的时候是通过标签来辅助训练模型的参数，而在 阅读全文
摘要：
ng的MI-003中12 ——SVM 一、svm目标函数的由来 视频先将LR的损失函数： 在上图中，先将y等于0 和y等于1的情况集合到一起成为一个损失函数，然后分别讨论当y等于1的时候损失函数的结果图（上图左）和y等于0的时候的损失函数的结果图（上图右），这里先采用的是单一样本情况，而且图中的co 阅读全文
摘要：
这个结构是10年Quoc V.Le等人提出的，这里的tiled，按照 Lecun的解释是Locally-connect non shared.即是局部连接，而且不是共享的，这是针对于权重来说的。本文翻译如有错误，还望指正，谢谢！！这篇论文是10年的，相比较来说四年的东西，比较旧了，可是这个tcn... 阅读全文
摘要：
这是boss14年1月份就叫我看的论文，希望能够实现起来，但是发现里面的牵涉的东西太多，而且重要的是论文几乎没给数据参数，网上也找不到代码来熟悉，没gpu，没大内存，没师兄师姐可以帮助，单干的确挺累人。还是翻译下，加深印象吧，总觉得在做无用功。最重要的是，boss完全不管，自己也非大神（吐槽过多。。... 阅读全文
摘要：
其实topographic independent component analysis 早在1999年由ICA的发明人等人就提出了，所以不算是个新技术，ICA是在1982年首先在一个神经生理学的背景下提出的，而且在1980年前后大家都在忙着研究BP，所以对ICA研究的人都不多，在1990年前后才大... 阅读全文
摘要：
之前一直对BP的理解不透彻，这可不行，这个可是超经典的广泛应用在ML中的求偏导的方法。本博来自《神经网络与机器学习》P86页。 在用到bp的地方我们都是为了使用梯度下降法，并求出他的偏导数，如图：（图 1 来自ng的ufldl），但是如何求得J(W，b)关于W和b的导数确实比较难，所以才有了BP的出 阅读全文
摘要：
ng的ml-003中11_XI._Machine_Learning_System_Design第二个视频中着重说明了如何开始设计系统： 首先需要以最快速的做一个你当前能力能够做到的系统： 然后画出learning curve，来查找是过拟合还是欠拟合，然后进行下一步，但是很多时候我们发现我们需要手动 阅读全文
摘要：
正则化与过拟合（highvariance）和欠拟合（highbias）的关系-部分（五） ML的诊断方法-部分（六） 如何采取下一步-部分（七） 部分（五） 从图中可以看出，正则化项可以用来影响模型函数对数据是否过拟合，正则化项的本意是防止过拟合的，但是对于前面的lamuda的正确的选取却很重要，对 阅读全文