数学——广义Lagrange

一、多元函数条件极值(高数同济第七版  P116  有相关章节)

  1、转换为求解非条件极值

      例题:用钢板做一个体积为2的长方形水箱。问 长宽高各取怎样的尺寸 用料最省? 

      设该长方形冰箱的长宽高非别为为x,y,z 。  即:

           

         我们可以将其转换为求解非条件极值,然后分别求偏导后求解:

         

  2、 拉格朗日数乘求解

    a)了解拉格朗日数乘:将最优问题化转化为一个方程组,进行求解。

         求解  f(x,y)在约束条件下的最小值!

     i) 由隐函数存在定理可知:

     ii)  假设在 处取极值,则

        

          

     iii)  令

         ,称λ为lagrange乘子

       得:  ,其中三个方程,三个未知数,直接可以解方程。

    

    b)总结:我们引入辅助函数: ,称为Lagrange函数

        即:

      以上还可以推广

       

二、Lagrange对偶性、广义Larange函数:
    在一般的优化模型中,约束条件不但有等式约束也有不等式约束,第一部分中只有等式约束,针对这一问题,我们可以通过广义lagrange函数解决:

    结论

      

    证明:语言理解

      假设:我们给定一个x,若其中有一个 或   ,则存在  或    使得

         若给定的x不会破坏约束条件,则

        即:

       

        在不破坏约束条件的情况下

        综述:

           

三、支持向量机 ——最大间隔分离超平面

 1、最优模型转换

    最大间隔分离超平面一句话:使距离超平面最近的点的距离极大化

      

    求解:

     

    首先我们对模型(7)进行处理,给定一个 i 使得 最小,由于 w,b 成比例放大缩小,该超平面还是原来的超平面,

  且不影响目标函数,不影响约束条件。因此给定一个λ 使得,即 

  那么得到优化模型(7)的新模型(8)

    

原文地址:https://www.cnblogs.com/z-bear/p/9577708.html