粒子群與差分進(jìn)化混合算法的研究.pdf

1、優(yōu)化技術(shù)是一種以數(shù)學(xué)為基礎(chǔ)，用于求解各種組合優(yōu)化問題的應(yīng)用技術(shù)。最優(yōu)化問題是人們?cè)诠こ碳夹g(shù)、科學(xué)研究、和經(jīng)濟(jì)管理等諸多領(lǐng)域中經(jīng)常碰到的問題，它是指在滿足一定的約束條件下，尋找一組參數(shù)值，使目標(biāo)函數(shù)達(dá)到最大或最小。最優(yōu)化問題根據(jù)其目標(biāo)函數(shù)、約束條件的性質(zhì)以及優(yōu)化變量的取值范圍可以分為許多類型，例如：根據(jù)目標(biāo)函數(shù)和約束條件是否均為線性表達(dá)式，把最優(yōu)化問題劃分為線性規(guī)劃問題和非線性規(guī)劃問題。針對(duì)不同的最優(yōu)化問題，提出了許多不同的優(yōu)化方法，如牛

2、頓法、共軛梯度法、Polar-Ribiere法、拉格朗日乘子法等。這些優(yōu)化算法能很好地找到問題的局部最優(yōu)點(diǎn)，是成熟的局部優(yōu)化算法。 但是隨著人類生存空間的擴(kuò)大以及認(rèn)識(shí)與改造世界范圍的拓展，人們發(fā)現(xiàn)由于問題的復(fù)雜性、約束性、非線性、建模困難等特點(diǎn)，解析性優(yōu)化算法已不能滿足人們的要求，需要尋找一種適合于大規(guī)模并行且具有智能特征的優(yōu)化算法。 現(xiàn)代進(jìn)化類方法如人工神經(jīng)網(wǎng)絡(luò)、遺傳算法、禁忌搜索法、模擬退火法和蟻群算法等在解決大規(guī)模

3、的問題時(shí)體現(xiàn)出強(qiáng)大的潛力，它們可以在合理的時(shí)間限制內(nèi)逼近優(yōu)化問題的較好可行解。其中，遺傳算法和蟻群算法被稱為智能優(yōu)化算法，其基本思想是通過模擬自然界生物的行為來構(gòu)造隨機(jī)優(yōu)化算法。 近十幾年來，粒子群算法（particle swarm optimization，簡(jiǎn)稱PSO）越來越受到學(xué)者的關(guān)注。粒子群算法是美國社會(huì)心理學(xué)家James Kennedy和電氣工程師Russell Eberhart于1995年共同提出的，它是受到鳥群社會(huì)

4、行為的啟發(fā)并利用了生物學(xué)家Frank Heppner的生物群體模型而提出的。該算法用無質(zhì)量無體積的粒子作為個(gè)體，并為每個(gè)粒子規(guī)定簡(jiǎn)單的社會(huì)行為規(guī)則，通過種群間個(gè)體協(xié)作來實(shí)現(xiàn)對(duì)問題最優(yōu)解的搜索。由于算法收斂速度快，設(shè)置參數(shù)少，容易實(shí)現(xiàn)，能有效地解決復(fù)雜優(yōu)化問題，在函數(shù)優(yōu)化、神經(jīng)網(wǎng)絡(luò)訓(xùn)練、圖像處理、模式識(shí)別以及一些工程領(lǐng)域都得到了廣泛的應(yīng)用。 不過，盡管粒子群算法的發(fā)展經(jīng)歷了十幾年，但是無論在理論上還是在實(shí)踐上都尚未成熟。粒子群算法

5、也和其它全局優(yōu)化算法一樣，有易陷入局部極值點(diǎn)，進(jìn)化后期收斂慢，精度較差等缺點(diǎn)。如何加快粒子群算法的收斂速度和提高算法的收斂精度，一直是大多數(shù)研究者關(guān)注的重點(diǎn)。加快收斂速度的措施主要有如何選擇最優(yōu)的算法參數(shù)，以及與其它優(yōu)化算法結(jié)合來對(duì)粒子群算法的主要框架加以修正。在提高收斂精度，防止粒子早熟方面，主要有設(shè)法保持種群的多樣性，或引入跳出局部最優(yōu)點(diǎn)的機(jī)制等措施?，F(xiàn)已有的改進(jìn)粒子群算法有模糊自適應(yīng)PSO算法（FAPSO），雜交PSO算法（HPS

6、O），離散二進(jìn)制PSO算法，協(xié)同PSO算法，免疫粒子群優(yōu)化算法等。 近年來，差分進(jìn)化（Differential Evolution，DE）算法以其獨(dú)特的方便性和有效性得到人們的重視。差分進(jìn)化算法（DE）是由Rainer Storn和Kenneth Price為求解切比雪夫多項(xiàng)式而于1996年共同提出的一種采用浮點(diǎn)矢量編碼在連續(xù)空間中進(jìn)行隨機(jī)搜索的優(yōu)化算法。DE的原理簡(jiǎn)單，受控參數(shù)少，實(shí)施隨機(jī)、并行、直接的全局搜索，易于理解和實(shí)現(xiàn)

7、。 本文在粒子群算法和差分進(jìn)化算法的基礎(chǔ)上，對(duì)現(xiàn)有相關(guān)文獻(xiàn)進(jìn)行了研究和分析，通過引入一種新的信息交流機(jī)制，提出了一種基于改進(jìn)后的粒子群算法再與差分進(jìn)化算法進(jìn)行混合的新型算法，有助于信息在兩個(gè)不同種群中傳遞，從而達(dá)到改善算法性能的目的。研究中發(fā)現(xiàn)，并不是所有的PSO改進(jìn)后，再與DE混合就能取得較好的性能，同時(shí)注意到，本文建立的基于不同選擇策略的改進(jìn)型PSO，再與DE混合，能取得較好的性能，原因在于這種改進(jìn)的PSO進(jìn)化策略與DE進(jìn)化

8、策略形成互補(bǔ)，混合后就能改善PSO性能。 本文以函數(shù)優(yōu)化為例，選取最近在核心學(xué)術(shù)期刊公開發(fā)表的算法為比較例子，用matlab編出源碼，通過對(duì)Sphere、Rastrigrin、Rosenbrock、Quadric、Girewank等幾個(gè)學(xué)術(shù)界公認(rèn)的經(jīng)典測(cè)試函數(shù)進(jìn)行測(cè)試，來說明本文提出的算法的優(yōu)越性，具體如下： 1、通過對(duì)標(biāo)準(zhǔn)測(cè)試函數(shù)的測(cè)試，發(fā)現(xiàn)新型混合算法比單純的粒子群或差分進(jìn)化算法有更優(yōu)越的性能，收斂精度更高，并且越高

9、維時(shí)混合算法的優(yōu)點(diǎn)表現(xiàn)得越明顯。 2、通過對(duì)標(biāo)準(zhǔn)測(cè)試函數(shù)的測(cè)試，發(fā)現(xiàn)在Quadric函數(shù)的情況下，差分進(jìn)化算法的收斂性表現(xiàn)極差，但跟粒子群算法混合起來，收斂性就能取得比兩種算法自身還優(yōu)越的效果。 3、在高維的情況下，差分進(jìn)化算法收斂性表現(xiàn)很差，一旦與粒子群算法混合，收斂性就有極大的進(jìn)步，并有比兩種算法自身還好的性能。 最后，把本文提出的新型混合算法應(yīng)用到模糊聚類中，收斂精度有了提高，錯(cuò)分率取得預(yù)期的效果，說明本算