机器学习知识体系

随着2016年Alpha Go在围棋击败李世石，2017年初卡内基梅隆大学人工智能系统Libratus在长达20天的鏖战中，打败4名世界顶级德州扑克玩家，这标志着人工智能技术又达到了一个新的高峰。人工智能已经不再是在各大公司幕后提供各种智能推荐、语音识别算法的工具，它已经慢慢走向台前进入到平常百姓的视野之中。曾经有人描述人工智能就向一列缓缓开向人们的火车，一开始非常遥远而且看起来非常缓慢，它慢慢接近，直到人们清楚看到它的时候，它已经呼啸而过，把人远远抛在身后。现在似乎就是人们可以远远看到人工智能的时候，它已经发展数十年，但直到最近才引起广泛注意，随着大数据的积累、算法的改进、硬件的提升，人工智能可以在很多细分的领域成为专家，辅助人类甚至超过人类。

接触一个领域的第一步是尽快的了解全貌并且搭建出相应的知识体系。

 

 

1 - 数学

线性代数、微积分及数理统计

 

 

2 - 编程语言

Python/R/Java/Matlab

 

 

3 - Supervise learning

Linear regression：机器学习知识体系 - 线性回归

Logistic regression： 机器学习知识体系 - 逻辑回归

Neural network：机器学习知识体系 - 神经网络（基础）  机器学习知识体系 - 神经网络（反向传播算法）

SVM: SVM支持向量机 SVM支持向量机 SVM - Understanding the math

监督学习指的是人们给机器一大堆标记好的数据，比如一大堆照片，标记出哪些是猫的照片，哪些不是，然后让机器自己学习归纳出算法，可以判断出其他照片是否是猫。

 

4 - Unsupervise learning

K-means: 深入浅出K-Means算法

PCA: 主成份分析算法 PCA

Anomaly detection: 异常检测

非监督学习指的就是人们给机器一大堆没有标记的数据，让机器可以对数据进行分类、检测异常等。

 

5 - Special topic

Recommend system

Large scale machine learning application

一些特殊算法，例如推荐系统。常用于购物网站，可以根据你的过往购物或评分情况，来向你推荐商品。

 

6 - Advice on machine learning

Bias/vairance: Understanding the Bias-Variance Tradeoff

Regulation:

Learning curve:

Error analysis: Accurately Measuring Model Prediction Error

Celling analysis

机器学习的建议，包含参数正则化、学习曲线、错误分析、调参等。

 

7 - Deep Learning

Neural Netwotk

深度学习是近期机器学习的一个热门分支，模拟人类大脑的思维方式，可以极大的提高正确率，是近来机器学习的一个非常大的突破。

CNN：卷积神经网络全面解析   零基础入门深度学习(4) - 卷积神经网络

8 - Tools/Framework

TensorFlow/Theano/Keras

很多大厂就开源了一些机器学习的框架，基于这些框架可以很容易搭建机器学习的平台。

TensorFlow and Deep Learning without a PhD, Part 1  

TensorFlow and Deep Learning without a PhD, Part 2

 

9 - 推荐的学习资料：

Github上面有一份非常详尽的学习路径 awesome-deep-learning 

机器学习 

Andrew NG的Coursera的机器学习入门：这个教程非常适合初学者，没有很高深的数学推导，Andrew也是业内大牛但非常谦逊，讲解非常浅显易懂。

Neural Networks for Machine Learning by Geoffrey Hinton in Coursera (2012)

周志华的机器学习：号称最好的中文机器学习入门，这里有对这本书的详细评价。

几本经典著作：An Introduction to Statistical Learning，Pattern Recognition and Machine Learning，The Elements of Statistical Learning

深度学习

Neural Networks and Deep Learning：Michael Nielsen用非常浅显易懂的方式介绍了神经网络和深度学习，并且提供了一个手写数字识别的例子，非常适合入门。

UFLDL Tutorial I UFLDL Tutorial II：Andrew NG主导的Deep Learning的学习资料，内容非常精炼，适合稍微有些基础的同学。

Deep Learning: 几位大神共同编写的关于深度学习的free book。

零基础入门深度学习：一位大神写的关于深度学习的入门教程，由浅入深的详细介绍了深度学习的几个重要内容，非常适合入门的学习。

Convolutional Neural Networks for Visual Recognition - Stanford by Fei-Fei Li, Andrej Karpathy (2015)

Convolutional Neural Networks for Visual Recognition - Stanford by Fei-Fei Li, Andrej Karpathy (2016)

Deep Learning Course by Yann LeCun (2016)