2.机器学习相关数学基础作业

.学习笔记

1概率论与贝叶斯先验

1)本福特定律

 

2)概率公式

3)贝叶斯公式

 

4)贝叶斯公式的运用

 

5)两点分布

 

6)二项分布法一:

 

7)二项分布法二:

 

8)泰勒展式:

 

9)泊松分布

 

10)均匀分布

 

11)指数分布

 

  

12)指数分布的无记忆性

13)正态分布

 

正态分布的期望

 

正态分布的方差

 

14)常见分布的期望与方差总结

 

15Beta分布

 

Beta分布的期望

 

16Sigmoid函数的导数

 

17)高斯分布也属于指数族

 

18)事件的独立性

 

19)离散与连续型的期望

 

20)期望的性质:

 

21)相同取0,不同取1

 

22)方差(方差的平方根为标准差)

 

23)协方差(协作在一起所形成的方差)

 

 

  

24person相关系数

 

(25)协方差矩阵

 

(26)切比雪夫不等式

 

(27)大数定律

 

(28)伯努利定理

 

(29)中心极限定理

 

2.矩阵和线性代数

(1)主要内容

 

(2)SVD

 

 

 

(3)线性代数

 

(4)方阵的行列式

 

(5)代数余子式

 

(6)范德蒙行列式

 

(7)矩阵的乘法

 

 

(8)方阵的行列式

 

(9)特征值和特征向量

 

(10)特征值的性质

 

(11)向量的导数

 

 

  

(12)标量对向量的导数

 

(13)标量对方阵的导数

 

二、用自己的话总结“梯度”,“梯度下降”和“贝叶斯定理”。

1.梯度:

首先梯度是一个是一个矢量,有大小和方向,在这一点上沿着方向的方向导数的函数的最大值,也就是函数在该点的可以取到的最大导数称作梯度。

 2.梯度下降:

就是如何能最快下山的过程,梯度的方向是函数在给定点上升最快的方向,那么梯度的反方向就是函数在给定点下降最快的方向,这就是梯度下降所要得到的,最快下山的方向。

 3.贝叶斯定理:

在使用概率对某一件事情进行推断之前,我们已经得到了关于这一事件的概率,这种概率称为先验概率,但是通过后续的研究采集后又获得了有关该事件的概率,我们就可以对先验概率进行调整,然后先验概率就变为后验概率,这个修正概率的定理就是贝叶斯定理,我们可以利用他来求得,已知某一事件发生的概率,求得另一事件一起发生的概率,公式如下:

原文地址:https://www.cnblogs.com/chock/p/12691778.html