一、绪论
1、定义
2、监督学习（Supervised Learning）：（训练前被告知对错）
线性回归、分类
eg.房价预测、肿瘤预测
3、非监督学习（Unsupervised Learning）
聚类
eg.分离混音、新闻搜索、DNA分析、社交网络、天文分析、市场分析
二、单变量线性回归
1、线性回归模型概述
2、代价函数
θ_0=0时
当θ_0不等0时
等高线图显示
3、梯度下降算法（Gradient denscnet algorithm）在起始点不同的情况下可能到达不同的局部最优解
4、梯度下降算法函数解析
:=表示赋值 =表示判断
α表示学习速率（learning rate），控制以多大的幅度更新参数θ_j
更新函数主体部分同时更新θ_0和θ_1
更新时是同步更新
在越接近最小值时，导数值会越来越小，在α不变的情况θ_1的变化也会越来越小
5、线性回归的梯度下降
6、凸函数（Convex function）在梯度下降算法中只有一个局部最优解
7、“Batch”；Each step of gradient descent use all the training example.