????目標(biāo)函數(shù)為n維二次型函數(shù)時(shí)，共軛方向法能夠在n步迭代之后得到極小點(diǎn)。接下來(lái)會(huì)發(fā)現(xiàn)，共軛方向法的中間迭代步驟具有一種很有意義的性質(zhì)。選定x(0)作為迭代初始點(diǎn)， d(0)為初始搜索方向， 有：

x(1)=x(0)?(g(0)Td(0)d(0)TQd(0))d(0)
可以證明：
g(1)Td(0)=0
推導(dǎo)過(guò)程：
g(1)Td(0)=(Qx(1)?b)Td(0)=x(0)TQd(0)?(g(0)Td(0)d(0)TQd(0))d(0)TQd(0)?bTd(0)=g(0)Td(0)?g(0)Td(0)=0
????方程 g(1)Td(0)=0表示步長(zhǎng)為 α0=argmin?0(α),其中， ?0(α)=f(x(0)+αd(0)).推導(dǎo)過(guò)程如下：
由鏈?zhǔn)椒▌t可得：
d?0dα(α)=?f(x(0)+αd(0))Td(0)
將 α=α0帶入得：
d?0dα(α0)=g(1)Td(0)=0
由于 ?0是關(guān)于 α的平方函數(shù)，其中 α2的系數(shù)為 d(0)TQd(0)>0， 說(shuō)明 ?0存在唯一的極小點(diǎn)，因此， α0=argmin?0(α)。
????以此類(lèi)推，可以證明，對(duì)于所有 k，都有：
g(k+1)Td(k)=0
即
α0=argminf(x(k)+αd(k))
實(shí)際上，還有更一般的結(jié)論，如下引理所示：
* 引理 *在共軛方向算法中， 對(duì)于所有的 k,0≤k≤n?1,0≤i≤k 都有 :
g(k+1)Td(i)=0

總結(jié)

以上是生活随笔為你收集整理的最优化学习笔记（十二）——基本共轭方向算法（续）的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。