神经网络和深度学习概论

1.1 规划

你将学到:

1如何建立并运用神经网络和深度学习

2.改进深度神经网络:超参数、调整、规则化、最优化

3. 构建你自己的机器学习项目

4.深度神经网络

5.神经语言处理: 构建序列模型

1.2 什么是神经网络

受大脑如何运转的启发的一个非常有用的学习算法

样例1-单一神经网络

  给定在真实评估市场上房屋大小的数据,我们想拟合出一个可以预测房屋价格的函数。这是一个线性回归的问题,因为房屋的价格作为一个持续输出的函数。

我们知道房屋的价格不会为负的,因此我们创建一个函数称之为线性整流函数(Rectified linear Unit简称为RLU)它的初始值为0.

输入是房子的大小(x);输出是价格(y);则蓝线表示ReLU;

这也是一个最简单的神经网络结构:

 

例2-多元神经网络

  房屋的价格y可能会受到其他特征的影响,比如大小、卧室个数、邮政编码、气候。神经网络的作用就是预测价格并且它能自动的产生隐藏单元。我们仅需要给出输入x和输出y即可。

1.3 用神经网络进行监督学习

  在监督学习中,我们给出一个数据集并且已知我们的输出是应该是什么样子,学习输入和输出之间的关系。

  监督学习问题被划分为回归和分类两个范畴。在回归问题中,我们尝试在一个连续的输出中预测结果,等同于我们尝试去映射一个输出变量到某些连续的函数上。在分类问题中,与回归相反我们预测的是离散输出的结果。

监督学习的样例:

结构化VS非结构化

 

1.4 深度学习兴起的原因

在大数据下性能表现极佳:

但是在数据量小时,常规算法如SVM性能肯能要好过神经网络。

深度学习兴起的原因:

1.能够训练一个足够大的神经网络

2. 拥有大量的标记数据

训练一个神经网络的过程:

测试题:

1.AI是新的电力这个比喻指的是什么?

A.类似于100年前电力起初,AI正在改变着多个行业。

B.通过“智慧网格”,AI正在带来新的一波电力。

C.AI在计算机上运行并且由电提供能源,但是它能让计算机做到一些前所未有的事情。

D.AI是我们家庭和办公室中非常有用的私人设备,类似于电力。

2.下面哪个是导致最近深度学习兴起的原因?

A.深度学习已经在重要的领域产生了重大影响,如在线广告、语音识别和图像识别。

B.我们可以访问更多的数据。

C.我们可以拥有更多的计算能力。

D.神经网络是大脑的一个新的领域。

3.下面哪个是正确的?

A.能够快速的尝试想法可以让深度学习的工程师迭代速度更快。
B.更快的计算速度可以帮助一个团队快速的得到一个好的idea。
C.训练一个大的数据集的速度要快于较小的数据集。
D.最近在深度学习算法处理中已经可以允许我们较快的训练出一个好的模型(甚至在不改变CPU/GPU硬件情况下)。
 
4.当一个有经验的深度学习工程师解决一个新问题时,通常可以使用以前的问题的洞察力来训练一个好的模型,不需要多次遍历不同模型。是否正确?
 
5.这些图中的哪一个是ReLU激活函数(http://blog.csdn.net/u014365862/article/details/52710698)?

 6.对猫图像的识别是“结构化”数据的一个例子,因为它是在计算机中表示为结构化数组?
 
7.有关于人口统计的统计数据人口、人均GDP 和经济增长是“非结构化”数据的一个例子,因为它包含的数据来自不同的数据源?
 
8.为什么机器翻译使用RNN,把英语翻译成法语?
A.它可以作为一个监督学习的问题被训练。
B.比CNN效果更好。
C.在输入/输出中是一个序列。
D.RNN表示思路->代码->实验->...这样一个迭代的处理过程。
 
9.横纵坐标轴表示什么含义?
 
10.假设测试题9图中曲线描述的是准确的,下面哪个是正确的?

A.减小数据集的大小通常不会降低算法的性能,并且可能会有帮助。

B.减小神经网络的大小一般不会损害算法的性能,并且可能会有帮助。

原文地址:https://www.cnblogs.com/ylHe/p/7708359.html