非线性假设

为什么需要学习这个算法
非线性拟合

当特征个数过大时，多项式拟合参数过多
二次项的个数大约是 $(n^2)/2$ ， $n$ 为特征的个数。
三次项个数大约是 $(n^3)/6$

神经元与大脑

大脑能够通过同一套算法处理不同类型的信号(听觉、触觉、视觉）。

参数与权重
模型的权重和参数是一个意思。

神经网络
在这里插入图片描述
参数矩阵的大小
$s_{j+1} imes(s_j + 1)$ ， $s_j$ 为第 $j$ 层的单元数

第二层
在这里插入图片描述
第三层

如何高效进行计算，以及一个向量化实现的方式。
明白如何学习复杂的非线性假设函数。

矩阵表示
在这里插入图片描述

前向传播
从第一层到最后一层的计算过程也叫前向传播。

神经网络与logistics回归
每层的每个单元的计算与logistics回归有相同的形式，但是输入不是 $x_i$ ，而是上一层单元的输出 $a^{(j)}_i$

神经网络是如何学习复杂非线性假设模型的
在这里插入图片描述
拟合的目标：

AND运算
令 $w_0 = -30, w_1=20, w_2=20$

$OR运算$

NOT运算
在这里插入图片描述
XNOR运算