深度信念网络

https://blog.csdn.net/u010159842/article/details/78781347

https://www.cnblogs.com/jhding/p/5687696.html

https://blog.csdn.net/weixin_42137700/article/details/81610145

https://www.zhihu.com/question/20830906 （Deep Learning 可以用来做推荐系统吗？）

http://imgtec.eetrend.com/blog/2018/100014190.html

https://blog.csdn.net/a819825294/article/details/53608141

https://wenku.baidu.com/view/58d6168916fc700aba68fc7d.html（卷积的深度信念网络）

https://my.oschina.net/u/876354/blog/1626639（大话深度信念网络（DBN））

https://max.book118.com/html/2017/1211/143675384.shtm

https://zhuanlan.zhihu.com/p/43139371

https://www.sohu.com/a/167221030_714863

http://m.elecfans.com/article/591242.html（什么是深度学习？有什么优点和缺点？）

　　深度学习所涉及的技术主要有：线性代数、概率和信息论、欠拟合、过拟合、正则化、最大似然估计和贝叶斯统计、随机梯度下降、监督学习和无监督学习、深度前馈网络、代价函数和反向传播、正则化、稀疏编码和dropout、自适应学习算法、卷积神经网络、循环神经网络、递归神经网络、深度神经网络和深度堆叠网络、LSTM长短时记忆、主成分分析、正则自动编码器、表征学习、蒙特卡洛、受限波兹曼机、深度置信网络、softmax回归、决策树和聚类算法、KNN和SVM、生成对抗网络和有向生成网络、机器视觉和图像识别、自然语言处理、语音识别和机器翻译、有限马尔科夫、动态规划、梯度策略算法和增强学习（Q－learning）等等。

深度学习的优点：深度学习提出了一种让计算机自动学习出模式特征的方法，并将特征学习融入到了建立模型的过程中，从而减少了人为设计特征造成的不完备性。而目前以深度学习为核心的某些机器学习应用，在满足特定条件的应用场景下，已经达到了超越现有算法的识别或分类性能。

深度学习的缺点：只能提供有限数据量的应用场景下，深度学习算法不能够对数据的规律进行无偏差的估计。为了达到很好的精度，需要大数据支撑。由于深度学习中图模型的复杂化导致算法的时间复杂度急剧提升，为了保证算法的实时性，需要更高的并行编程技巧和更多更好的硬件支持。因此，只有一些经济实力比较强大的科研机构或企业，才能够用深度学习来做一些前沿而实用的应用。

深度学习成功应用于计算机视觉、语音识别、记忆网络、自然语言处理等其他领域。

图1　通过识别各种组合（如轮廓、角，可以用边缘来定义），此图展示了深度学习系统如何显示人的图像。

图片的转载获得了Ian Goodfellow、Yoshua Bengio和Aaron Courville的许可，来源于The MIT Press出版的Deep Learning一书

深度学习是机器学习的一个子领域。通过构建多层次的表征或从一系列简单的表征和特征中学习一个具有层次结构的特征集，深度学习能够解决表征学习的主要问题。

图1对深度学习模型进行了说明。就像将一系列不同的像素值构成一幅图像一样，用计算机解码这些原始的非结构化的输入数据通常是一件很繁琐的事。在理想情况下，转换像素值来识别图像的映射函数是很难实现的。此外，为这类映射直接训练计算机几乎是不可能的。为了应对这些类型的任务，深度学习会创建连接至期望输出的一系列映射子集，以解决这类难题。映射的每个子集对应于模型的一个层。输入层包含了可以观察的变量，因此处于可见层。我们可以从给定的输入中逐层提取数据的抽象特征。因为这些抽象的值在给定数据中是不可用或不可见的，所以这些层称为隐藏层。

在图1的第一隐藏层中，通过对相邻像素进行比较学习，可以轻易地识别出边缘。第二隐藏层可以将角和轮廓从第一隐藏层的边缘中区分开来。基于描述角和轮廓的第二隐藏层，第三隐藏层可以识别特定对象的不同部分，最终可以从第三隐藏层中检测出图中存在的不同对象。