西瓜书第一章 绪论
人工智能发展历程:
(1)推理期:二十世纪五十年代到七十年代初。
(2)知识期:二十世纪七十年代中期,专家系统。
(3)学习期:二十世纪八十年代以来,被研究最多、应用最广的是“从样例中学习”。
一大主流是符号主义学习,代表包括决策树和基于逻辑的学习;二十世纪九十年代中期之前,“从样例中学习”的另一主流技术是基于神经网络的连接主义学习,连接主义学习的最大局限是其“试错性”;简单地说,其学习过程涉及大量参数,而参数的设置缺乏理论指导,主要靠手工“调参”;夸张一点说,参数调节上失之毫厘,学习结果可能谬以千里。
二十一世纪初,连接主义学习掀起了以“深度学习”为名的热潮,原因有两:数据大了、计算能力强了。深度学习模型拥有大量参数、若数据样本少,则很容易“过拟合”,如此复杂的模型、如此大的数据样本,需要强力计算设备。
数据库领域的研究为数据挖掘提供数据管理技术,机器学习和统计学的研究为数据挖掘提供数据分析技术。
奥卡姆剃刀原则主张选择与经验观察一直的最简单假设。
机器学习领域的重要国际学术会议:国际机器学习会议(ICML)、国际神经信息处理系统会议(NIPS)、国际学习理论会议(COIT)
期刊:Journal of Maching Learning Research和Machine Learning.
人工智能领域的重要会议:IJCAI、AAAI
期刊:Artificial Intelligence\ Journal of Artificial Intelligence Research
数据挖掘领域会议:KDD、ICDM
期刊:ACM Transactions on Knowledge Discovery from Data\ Data Mining and Knowledge Discovery
计算机视觉与模式识别会议:CVPR
期刊:IEEE Transactions on Pattern Analysis and Machine Intelligence
神经网络重要期刊:Neural Computation\ IEEE Transactions on Neural Network and Learning Systems