摘要：
在求最优解时，前面很多地方都用梯度下降(Gradient Descent)的方法，但由于最优步长很难确定，可能会出现总是在最优解附近徘徊的情况，致使最优解的搜索过程很缓慢。牛顿法(Newton's Method)在最优解的搜索方面有了较大改进，它不仅利用了目标函数的一阶导数，还利用了搜索点处的二阶导... 阅读全文
摘要：
早就想搭建一个专属于自己的博客了，用来记录自己生活、学习的点点滴滴。之所以选WordPress，主要是因为它可以支持Latex，而且特别喜欢其简约的风格。WordPress有个the famous 5 minutes installing,无奈我对LAMP(Linux,Apache,MySQL,PH... 阅读全文
摘要：
分类(Classification)与回归都属于监督学习，两者的唯一区别在于，前者要预测的输出变量\(y\)只能取离散值，而后者的输出变量是连续的。这些离散的输出变量在分类问题中通常称之为标签(Label)。线性回归的策略同样也适用于分类吗？答案是否定的。下面结合例子简要说明理由。假设我们现在的任务... 阅读全文
摘要：
机器学习(Machine Learning)最早起源于人工智能(Artificial Intelligence,AI)，其核心在于构造学习算法(Learning Algorithm)，使得机器可以自动从训练数据中进行学习以完成特定任务。机器学习的定义1959年，Arthur Samuel将机器学习定... 阅读全文