1 中心思想

極值點處，函數和約束條件一定相切，梯度一定共線（同向or反向）

2 無約束優化問題

比如我們希望求解 min/max F(x)，那么我們可以直接對所有m個變量求偏導，令偏導等于0。

這時候聯立出來的點就可能是極值點

????????注意這里是可能，因為偏導等于0只是極值點的必要條件，并不是它的充分條件。（所以在求出可能的極值之后，需要帶入原函數，檢查一下是否在原函數中比周圍的點都要小）

? ? ? ? 但從另一個角度講，不滿足偏導數等于0的點，肯定不是極值點。

3 等式約束優化問題

? ? ? ? 比如我們現在的目標函數為 f(x)，約束條件為h(x)

? ? ? ? 那么問題為：

????????

? ? ? ? 此時我們構建拉格朗日函數

?

?

????????我們令其關于λ以及x的偏導數為0?

?????????

?

?

4 不等式約束問題（KKT）?

我們將約束條件擴展成如下：

如何求解最優值？我們可以使用KKT條件進行求解：

參考資料?拉格朗日乘子法詳解（Lagrange multiplier）_wulimmya的博客-CSDN博客_拉格朗日乘子

總結

以上是生活随笔為你收集整理的数学知识笔记：拉格朗日乘子的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。