为什么深度学习会兴起？
在最近的几年里，深度学习异常兴起。为什么会这样呢？课程中认为，由于社会数字化的发展，产生了大量的数据，更快的计算和创新的神经网络算法的发展导致了深度学习的兴起。
如上图所示，横坐标是数据的规模，纵坐标是算法的表现。从图中可以看出，当数据量较小时，传统的数据处理方法（例如SVM，逻辑回归等等）可以取到一定的效果，但是随着数据量的增加，其表现就达到饱和。这时，如果采用更好的算法，比如采用深度学习的算法，就会取得更好的效果。这也表现了深度学习兴起的原因。
所以，从两个方面可以考虑采用深度学习方法并可以取得很好的效果：
1.可以被训练成一个神经网络算法
2.拥有大量标签数据
训练神经网络的过程是迭代的
如上图所示，我们通常是先产生一个idea，之后根据这个idea来训练一个神经网络模型。之后再测试该模型的有效性，然后从新调参训练。
有时候训练一个神经网络会花费大量的时间，这会影响我们的开发效率。因此，我们通常想办法需要一个更快的计算方法来训练我们的算法。