具有充分下降性的非線性共軛梯度法.pdf

1、最優(yōu)化是一門應(yīng)用相當(dāng)廣泛的學(xué)科，它討論決策問題的最佳選擇，構(gòu)造尋求最優(yōu)解的計(jì)算方法。雖然最優(yōu)化問題可以追溯到古老的極值問題，但直到1947年Dantzig提出一般線性規(guī)劃問題的單純形法后，它才成為一門獨(dú)立的學(xué)科。近年來隨著系統(tǒng)科學(xué)的發(fā)展和計(jì)算機(jī)的廣泛應(yīng)用，最優(yōu)化理論和方法在工程、國防、經(jīng)濟(jì)、管理等領(lǐng)域以及許多數(shù)學(xué)分支都有著直接或間接的應(yīng)用，成為一門十分活躍的學(xué)科。共軛梯度法是最優(yōu)化中常用的方法之一，它具有算法簡單、存儲(chǔ)需求少、易于實(shí)現(xiàn)等

2、優(yōu)點(diǎn)，十分適合求解大規(guī)模無約束優(yōu)化問題。本文研究了求解無約束優(yōu)化問題的非線性共軛梯度法，并探討了全局收斂性和數(shù)值表現(xiàn)。主要研究內(nèi)容如下： ⑴介紹了最優(yōu)化問題的提出以及判斷最優(yōu)解常用的最優(yōu)性條件；回顧了求解無約束優(yōu)化問題常用的幾類導(dǎo)數(shù)下降類算法。 ⑵介紹了本文將要研究的問題背景和已有結(jié)果以及目前的研究現(xiàn)狀。 ⑶提出了兩種修正的非線性共軛梯度法，分別為修正FR方法和修正HS方法，這兩種修正方法的一個(gè)重要特征就是能產(chǎn)生

3、充分下降方向，即搜索方向dk滿足gkTdk=-‖gk‖2．這種性質(zhì)不依賴于方法所采用的線性搜索。此外，當(dāng)采用精確線性搜索時(shí)，本文的修正FR方法和修正HS方法分別退化為原始的FR方法和HS方法。因此，當(dāng)目標(biāo)函數(shù)是嚴(yán)格凸二次函數(shù)，且采用精確線性搜索時(shí)，這些修正的共軛梯度法具有共軛性和二次終止性。在一定的條件下，我們證明了采用標(biāo)準(zhǔn)Armijo線搜索的修正共軛梯度法求解非凸極小化問題的全局收斂性。在非單調(diào)Armijo線搜索下證明了修正HS方法的