21天实战caffe笔记_第一天

1 深度学习术语

       深度学习常用名词：有监督学习、无监督学习、训练数据集、测试数据集、过拟合、泛化、惩罚值(损失loss);

       机器自动学习所需三份数据：训练集(机器学习的样例)，验证集(机器学习阶段，用于评估得分和损失是否达到预期要求)、测试集(机器学习结束之后，实战阶段评估得分);

       深度学习于2012年大爆发原因的三个有利因素：

       (1) 更大的数据集，如ImageNet;

       (2) 新的深度学习技术，如Relu、Dropout等技术 ;

       (3) 新的计算硬件，如GPU；

2 深度学习国外发展

       Google：网络模型GoogleNet，基于CPU集群平台DistBelief和支持GPU加速平台Tensorflow，具体案例AlphaGo，代表人物Geoffrey Hinton ；

       Microsoft：网络模型DRLF(深度残余学习框架)、Adam、CNTK、DCNN，Deep Residual Learning Framework)，基础平台Azure Machine Learning Studio，代表人物Ross Girshick ；

       Facebook ：开源深度学习项目Torch(http://torch.ch/)和fbcunn(https:l/github.com/facebook/fbcllnn)，代表人物Yann LeCun ；

       Amazon：基于云的机器学习服务Amazon Machine Learning(http://aws.amazon.com/cn/machine-Ieamingj)  ;

       Nvidia ： 推出多款基于深度学习硬件Titan X \Tesla P100，加速库cuDNN，解决方案DIGITS DevBox\DGX-1

3 深度学习国内发展

     百度：创建百度深度学习实验室IDL(http:// id l. baidu.com)，创新项目如无人机、智能自行车、DuBike、自动驾驶汽车、智能眼镜BaiDuEye等，代表人物Andrew Ng ；

     阿里：基于公共云的高性能服务HPC(https:!/www.aliyun.com/product/hpc)，代表产品拍立淘、搜索、OCR、绿网、等产品支持，代表人物华先胜 ;

     腾讯：优图(Bestlmage, h即:I/open.you阳.qq.com)，基于Mariana开发Mariana DNN\Mariana CNN\Mariana Cluster框架 ;

     国内深度学习应用代表公司：

     商汤科技SenseTime：http://www.sensetime.com/
     北京旷世科技（Face++）：https://megvii.com/
     涂鸦：https://docs.airtake.me/
     格灵深瞳：http://www.deepglint.com/
     Dress+：http://www.dress-plus.com/index.html
     Linkface ：https://www.linkface.cn/

4 著名专家网址

     Geoffrey Hinton (http://www.cs.toronto.edu/~hinton/)
     Yann LeCun (http://yann.lecun.com/)
     Youshua Bengio(http://www.iro.umontreal.ca/~bengioy/yoshua_en/)
     Andrew ng的机器学习课程:https://www.coursera.org/learn/machine-learning/home/welcome