一、机器学习中的数学以及应用

应用举例:

  主成分分析PCA

  推荐系统

 

 

测度论

 随机变量X的特征函数

凸优化问题

  优化问题的目标函数及限制条件均为凸函数。

  局部最优问题等价于全局最优。

  凸优化问题求解工具(cvx等)。

凸集合

集合中两点的连线均在集合内

凸函数(与高数中的凸函数相反)

常见的:

凸组合

凸闭包

  

 凸集合保凸运算

  任意多个凸集合的交集仍是凸集合

  凸集合的线性映射仍是凸集合

共轭函数 f*

拉格朗日对偶函数

  为什么研究拉格朗日对偶函数?

  对偶函数为原问题提供下界,无论原函数如何,拉格朗日对偶函数总为凹函数

几乎所有的凸优化问题都满足强对偶性

slater条件

原文地址:https://www.cnblogs.com/qianyuesheng/p/8453210.html