人工智能发展历程：
（1）推理期：二十世纪五十年代到七十年代初。
（2）知识期：二十世纪七十年代中期，专家系统。
（3）学习期：二十世纪八十年代以来，被研究最多、应用最广的是“从样例中学习”。
一大主流是符号主义学习，代表包括决策树和基于逻辑的学习；二十世纪九十年代中期之前，“从样例中学习”的另一主流技术是基于神经网络的连接主义学习，连接主义学习的最大局限是其“试错性”；简单地说，其学习过程涉及大量参数，而参数的设置缺乏理论指导，主要靠手工“调参”；夸张一点说，参数调节上失之毫厘，学习结果可能谬以千里。
二十一世纪初，连接主义学习掀起了以“深度学习”为名的热潮，原因有两：数据大了、计算能力强了。深度学习模型拥有大量参数、若数据样本少，则很容易“过拟合”，如此复杂的模型、如此大的数据样本，需要强力计算设备。
数据库领域的研究为数据挖掘提供数据管理技术，机器学习和统计学的研究为数据挖掘提供数据分析技术。
奥卡姆剃刀原则主张选择与经验观察一直的最简单假设。
机器学习领域的重要国际学术会议：国际机器学习会议（ICML）、国际神经信息处理系统会议（NIPS）、国际学习理论会议（COIT）
期刊：Journal of Maching Learning Research和Machine Learning.
人工智能领域的重要会议：IJCAI、AAAI
期刊：Artificial Intelligence Journal of Artificial Intelligence Research
数据挖掘领域会议：KDD、ICDM
期刊：ACM Transactions on Knowledge Discovery from Data Data Mining and Knowledge Discovery
计算机视觉与模式识别会议：CVPR
期刊：IEEE Transactions on Pattern Analysis and Machine Intelligence
神经网络重要期刊：Neural Computation IEEE Transactions on Neural Network and Learning Systems