粒子群優(yōu)化算法

第12期周馳等粒子群優(yōu)化算法粒子群優(yōu)化算法*周馳，高海兵，高亮,章萬(wàn)國(華中科技大學(xué)機械科學(xué)與工程學(xué)院教育部智能制造開(kāi)放實(shí)驗室,湖北武漢430074 )摘要:系統地介紹了粒子群優(yōu)化算法歸納了其發(fā)展過(guò)程中的各種改進(jìn)如慣性權重、收斂因子、跟蹤并優(yōu)化動(dòng)態(tài)目標等模型。闡述了算法在目標函數優(yōu)化、神經(jīng)網(wǎng)絡(luò )訓練、模糊控制系統等基本領(lǐng)域的應用并給出其在工程領(lǐng)域的應用進(jìn)展最后對粒子群優(yōu)化算法的研究和應用進(jìn)行了總結和展望指出其在計算機輔助工藝規劃領(lǐng)域的應用前景。關(guān)鍵詞:粒子群優(yōu)化算法;遺傳算法;神經(jīng)網(wǎng)絡(luò );模糊系統中圖法分類(lèi)號: TP301.6文獻標識碼: A文章編號: 1001-3695 2003 )12-0007-05Particle Swarm Optimizatior( PSO ) AlgorithmZHOU Chi , GAO Hai-bing, GAO Liang , ZHANG Wan- guo( Laboratory of Inelligent Manfacuring ,School of Mechanical Science & Engineering ,Huazhong Uninersity of Science & Technology ,Wuhan Hubei430074 ,China )Abstract: A new optimizer-Particle Swarm Optimization( PSO ) is introduced. Developments in the PSO such as inertia weight ，constriction factor ,tracking and optimizing dynamic systems etc are reviewed. Then ,its applications in some basic areas :functionoptimization ,neural network training and fuzy control system are summarized. Fllowing this ,several important engineering applicationexamples are given. Fnally ,the research and application of PSO in the future are pointed out and its potential application in computeraided process planning is proposed.Key words : Particle Swam Optimization Algorithm ; Genetic Algorithm ; Neural Network ; Fuzzy Control研究并解釋復雜的社會(huì )行為后來(lái)發(fā)現粒子群優(yōu)化算法可以用于復雜優(yōu)化問(wèn)題的求解4]1引言2粒子群優(yōu)化算法介紹當前通過(guò)模擬生物群體的行為來(lái)解決計算問(wèn)題已經(jīng)成為新的研究熱點(diǎn),形成了以群體智能(Swarm如上所述粒子群優(yōu)化算法的提出受鳥(niǎo)群覓食行為Inelligence )為核心的理論體系并已在- -些實(shí)際應用領(lǐng)的啟發(fā)并用于解決優(yōu)化問(wèn)題5]。算法采用速度- -位置域取得突破性進(jìn)展[。通過(guò)對生物群體的觀(guān)察和研究搜索模型。每個(gè)粒子代表解空間的一一個(gè)候選解解的優(yōu)發(fā)現生物群體內個(gè)體間的合作與競爭等復雜性行為產(chǎn)劣程度由適應函數決定。速度v;=(V1 ,V以 ... Nu )決定生的群體智能往往能對某些特定的問(wèn)題提供高效的解粒子在搜索空間單位迭代次數的位移。其中適應函數決方法[2]。例如動(dòng)物行為學(xué)家曾仔細觀(guān)察過(guò)螞蟻的覓根據優(yōu)化目標定義。PSO 隨機初始化為一群粒子其中食行為發(fā)現不管初始時(shí)同--蟻巢的螞蟻從蟻巢到食物.第i個(gè)粒子在d維解空間的位置表示為x;=(xnxX2r的覓食路徑是如何的隨機隨著(zhù)覓食的螞蟻往返次數的x)每一次迭代粒子通過(guò)動(dòng)態(tài)跟蹤兩個(gè)極值來(lái)更新增加蟻群總能找到最短的覓食路徑。著(zhù)名的蟻群算法其速度和位置。第一個(gè)是粒子從初始到當前迭代次數正是受蟻群覓食行為的啟發(fā)而產(chǎn)生的。實(shí)踐證明蟻群搜索產(chǎn)生的最優(yōu)解:個(gè)體極值p:=(p:1p..)第二算法在組合優(yōu)化、車(chē)間作業(yè)調度、網(wǎng)絡(luò )路由選擇等領(lǐng)域個(gè)是粒子種群目前的最優(yōu)解:全局極值g=(g1心... ,g)粒子根據以下公式來(lái)更新其速度和位置[6]:已經(jīng)取得成功的應用3。美國的Kennedy和Eberhar受鳥(niǎo)群覓食行為的啟發(fā),中國煤化工于1995 年提出了粒子群優(yōu)化算法( Particle Swarm其中」YHCNMH G區間的隨機數。一般取Optimization ,PSO)最初的設想是仿真簡(jiǎn)單的社會(huì )系統,學(xué)習因子C=c2=2'。粒千在解空間內不斷跟蹤個(gè)體極值與全局極值進(jìn)行搜索，直到達到規定的迭代次數或收稿日期: 2002-12-22 ;修返日期: 2003-09-23滿(mǎn)足規定的誤差標準為止。粒子在每一維飛行的速度基金項目:國家863/CIMS主題資助項目( 2002AA413720 );不能超過(guò)算法設定的最大速度Vimuro設置較大的Vme可國家863/CIMS主題資助項目( 2002A411710 )以保證粒子種群的全局搜索能力Vvm 較小則粒子種群.計算機應用研究2003年的局部搜索能力加強。粒子群優(yōu)化算法在解空間搜索的乏堅實(shí)的數學(xué)基礎,直到最近幾年才開(kāi)始嘗試建立算法示意圖如圖1所示。粒子群優(yōu)化算法的流程如圖2所示。的數學(xué)基礎。開(kāi)始]1999年Clere對算法的數學(xué)研究證明采用收斂因[ 初始化粒子群子可能能夠確保算法的收斂。Clere的PSO收斂因子模)article I[計算每個(gè)粒子的適應度型如下所示[2]:v;=k[v;+qi ranK( )(p-x)+cz rand( )(g-x;)]l根據粒子的適應度更新p,和e根據公式(D)和公式(2)更新k=一其中φ=q+C2 xp>4(6)12-φ-√φ-4 φl(shuí)| 粒子群的速度和位置| partiele-particle.x=x+ Vi(7)No[達到最大迭代次數或l 滿(mǎn)足最小錯誤標準?通常將σ設為4.1則k由式7 )計算得0.729。.圖1PSO優(yōu)化搜索示意圖YES在算法早期的實(shí)驗和應用中,認為當采用收斂因子模型時(shí)Vmr參數無(wú)足輕重因此將Vma 設置為-一個(gè)極大值圖2粒子群優(yōu)化算法的流程圖如10000。后來(lái)的研究表明將其限定為xm (即每個(gè)粒粒子群優(yōu)化算法是基于群體智能理論的優(yōu)化算法,子在每-維度上位置的允許的變化范圍)可以取得更好通過(guò)群體中粒子間的合作與競爭產(chǎn)生的群體智能指導的優(yōu)化結果13]。優(yōu)化搜索。與進(jìn)化算法比較,PSO 保留了基于種群的全3.3 跟蹤并優(yōu)化動(dòng)態(tài)系統局搜索策略,但是其采用的速度-位移模型操作簡(jiǎn)單,避免了復雜的遺傳操作。它特有的記憶使其可以動(dòng)態(tài)實(shí)踐證明,傳統的PSO算法在解決靜態(tài)系統問(wèn)題跟蹤當前的搜索情況調整其搜索策略。與進(jìn)化算法比時(shí)搜索速度快,優(yōu)化結果精確。但是在實(shí)際的工程應較,粒子群優(yōu)化算法是-種更高效的并行搜索算法。用中系統環(huán)境往往是動(dòng)態(tài)變化的這就決定了優(yōu)化目標也是動(dòng)態(tài)變化的。當優(yōu)化目標的變化較小時(shí),PSO 有3粒子群優(yōu)化算法的發(fā)展-定的自糾錯能力但當變化較顯著(zhù)時(shí),PSO往往不能跟蹤動(dòng)態(tài)目標的變化。3.1 慣性權重模型Carlisle和Dozier于2000年提出了自動(dòng)適應動(dòng)態(tài)環(huán)由式( 1 )可以看出,公式的右邊由三部分組成。第境的PSO模型[14]即為實(shí)現動(dòng)態(tài)系統的優(yōu)化周期性地一部分是粒子更新前的速度,而后兩部分反映了粒子速用粒子的當前位置矢量x;代替其個(gè)體極值p;,同時(shí)將適度的更新。美國的Shi與Eberhart研究發(fā)現[9]等式的第應函數定義為粒子到動(dòng)態(tài)最優(yōu)解的距離。這樣粒子雖-部分v; 由于具有隨機性且其本身缺乏記憶能力,有擴然可以利用以往的搜索結果,但是卻對以往的搜索區域大搜索空間探索新的搜索區域的趨勢。因此,具有全與當前的優(yōu)化目標的關(guān)系作了重新定義。在一些典型局優(yōu)化的能力。在考慮實(shí)際優(yōu)化問(wèn)題時(shí)往往希望先采的動(dòng)態(tài)系統的優(yōu)化問(wèn)題.上取得了滿(mǎn)意的結果。Carlisle用全局搜索,使搜索空間快速收斂于某一區域然后采和Dozier于2001年在此基礎上作了進(jìn)-步的改進(jìn)15]:在用局部精細搜索以獲得高精度的解。系統環(huán)境發(fā)生變化時(shí),首先重新計算每個(gè)個(gè)體極值矢量因此在式1 )的v;前乘以慣性權重w,w較大算法p;的適應度，而不是用每個(gè)粒子的當前位置矢量x代替具有較強的全局搜索能力,w較小則算法傾向于局部搜其個(gè)體極值po這樣做的依據是當前的個(gè)體極值矢量p;索。一般的做法是將w初始為0.9并使其隨迭代次數相對于當前位置矢量而言可能更接近于新的優(yōu)化目標。的增加線(xiàn)性遞減至0.4 ,以達到上述期望的優(yōu)化目的。通過(guò)重新計算p;的適應度,可以選擇兩者中適應度高的改進(jìn)后的算法表示如下:位置矢量作為新的個(gè)體極值矢量。v;=uv; +ei rand( 3)(p-x)+ci rand )(g-x) .(3)3.4 PSO模型的改進(jìn)x=x+V;(4)( 1混合PSQ( HPSO )模型Shi與Eberhart經(jīng)過(guò)實(shí)驗證明10] :修改過(guò)的粒子群優(yōu)Angeline于1998年提出采用進(jìn)化計算中的選擇操作化算法對優(yōu)化大多數的Benchmark方程較原始的算法有的改進(jìn)型PSO 模型,稱(chēng)為混合PSO( HPSO f16。在了明顯改進(jìn)。但是,PSO 的實(shí)際搜索過(guò)程是非線(xiàn)性的且Angeline的HPS0模型中將每次迭代產(chǎn)生的新的粒子群高度復雜的使慣性權重w線(xiàn)性遞減的策略往往不能反根據適應函數進(jìn)行選擇,用適應度較高的一半粒 子的位映實(shí)際的優(yōu)化搜索過(guò)程。例如對于目標跟蹤問(wèn)題就需置和速度矢量取代適應度較低的-半粒子的相應矢量,要優(yōu)化算法擁有非線(xiàn)性搜索的能力以適應動(dòng)態(tài)環(huán)境的而保持后者個(gè)體極值不變。這樣的PSO 模型在提高收變化。因此Shi和Eberhart于2001年提出采用模糊系統斂速度的同時(shí)保證了-定的全局搜索能力在大多數的動(dòng)態(tài)地改變慣性權重的策略并以Rosenbrock函數為實(shí)驗驗證了其優(yōu)越性。該模糊系統定義了九個(gè)控制規Benchn中國煤化工原始PSO模型更好的優(yōu)化結果YHCNMHG則并包含兩個(gè)輸入和一個(gè)輸出。第一-個(gè)輸入是當前的但是必須指出,HPSO收斂速度的提高是以犧牲全全局最優(yōu)解另一個(gè)是當前的慣性權重。輸出量為慣性局搜索能力為前提的。在解決超高維、非線(xiàn)性、多局部權重的改變量。極值的復雜性?xún)?yōu)化問(wèn)題時(shí)有其局限性而且實(shí)際的工程3.2 收斂因子模型優(yōu)化問(wèn)題的環(huán)境往往是動(dòng)態(tài)變化的采用上述的半數選粒子群優(yōu)化算法起源于模擬社會(huì )系統算法本身缺擇機制并不能保證對動(dòng)態(tài)環(huán)境的跟蹤優(yōu)化。第12期周馳等粒子群優(yōu)化算法因此考慮將模糊系統引入選擇機制,根據不同問(wèn)功率顯著(zhù)提高。盡管算法需要進(jìn)行的適應性評價(jià)的次題制定相應的模糊控制規則,確定合理的輸入變量根數增加,但是卻幾乎能夠保證全局最小解的實(shí)現。今后據特定的優(yōu)化問(wèn)題進(jìn)行動(dòng)態(tài)的選擇將是這種PSO模型的工作是將SPSO模型應用于工程最小化問(wèn)題并在此下一步的研究重點(diǎn)?；A.上對模型進(jìn)行改進(jìn)和完善。Lovbjerg ,Rasmussen和Krink于2000年提出將進(jìn)化算以上所述的改進(jìn)型PSO模型在解決特定的問(wèn)題時(shí)法中的交叉操作也引入PSO的HPSO模型[7。交叉機較傳統的PSO模型均有-定的改善這就啟發(fā)我們根據制首先以一定的交叉概率從所有粒子中選擇待交叉的特殊的優(yōu)化問(wèn)題對傳統的PSO 模型作出相應的改進(jìn),以粒子然后兩兩隨機組合進(jìn)行交叉操作產(chǎn)生后代粒子。獲得滿(mǎn)意的優(yōu)化結果。這是PSO算法當前研究的重點(diǎn)后代粒子的位置和速度矢量如下所示:問(wèn)題也是將其推廣到工程等應用領(lǐng)域的必要條件。Child( x;)= p: parent(x;)+(1 .0-p) parent( x;)(8)4粒子群優(yōu)化算法的應用Child(x)= pi parent( x)+(1.0- p) parent( x)(9)其中p;是均勻分布在0 ,1 ]內的隨機數。4.1函數優(yōu)化parent( Vi )+ parent VChild( vn)=1 parent( V; )+ parent( V; )|| parent( v)l(10)許多實(shí)際的工程問(wèn)題本質(zhì)上是函數優(yōu)化問(wèn)題或者Child( rn)=parent( v;)+ parent( v:)Iparent( V; )|(11)可以轉換為函數優(yōu)化問(wèn)題進(jìn)行求解對于函數優(yōu)化已經(jīng)I parent( v; )+ parent( v; )|交叉型PSO與傳統的PSO模型的惟-區別在于粒有-些成熟的解決方法如遺傳算法。但是對于超高維、子群在進(jìn)行速度和位置的更新后還要進(jìn)行上述的交叉多局部極值的復雜函數而言遺傳算法往往在優(yōu)化的收操作并用產(chǎn)生的后代粒子取代雙親粒子。交叉操作使斂速度和精度上難以達到期望的要求。后代粒子繼承了雙親粒子的優(yōu)點(diǎn)在理論上加強了對粒Angeline經(jīng)過(guò)大量的實(shí)驗研究發(fā)現粒子群優(yōu)化算子間區域的搜索能力。例如兩個(gè)雙親粒子均處于不同法在解決-些典型的函數優(yōu)化問(wèn)題時(shí)能夠取得比遺傳的局部最優(yōu)區域那么兩者交叉產(chǎn)生的后代粒子往往能算法更好的優(yōu)化結果20。這就說(shuō)明粒子群優(yōu)化算法在夠擺脫局部最優(yōu),而獲得改進(jìn)的搜索結果。實(shí)驗證明,解決實(shí)際問(wèn)題時(shí)同樣具有很好的應用前景。與傳統的PsO及傳統的遺傳算法比較，交叉型PSO搜索通過(guò)對PSO算法的研究可以發(fā)現,與遺傳算法類(lèi)速度快收斂精度高。目前利用進(jìn)化操作改進(jìn)傳統PSO似應用PsO解決優(yōu)化問(wèn)題有兩個(gè)重要步驟:問(wèn)題解的編碼和適應性函數的選擇。應用PSO算法進(jìn)行函數優(yōu)算法的探索仍在繼續?；粌H可以避免選擇、交叉、變異等進(jìn)化操作而且可以(2)帶有鄰域操作的PSO模型Suganthan于1999年提出了帶有鄰域操作的PSO模大大簡(jiǎn)化.上述兩個(gè)步驟。型18]。在該模型中,用每個(gè)粒子所定義的當前鄰域極值以Rastigin函數(x)= 2[x?- 10 co( 2rx;)+ 10偽1;=(1; 12.... 山)代替粒子群的當前全局極值g。在優(yōu)例我們可以將問(wèn)題的解直接用實(shí)數編碼為(x x... ,化的初始階段將鄰域定義為每個(gè)粒子自身隨著(zhù)迭代xn)而將適應性函數定義為待優(yōu)化函數本身,在本例中次數的增加將鄰域范圍逐步擴展到包含所有粒子則即為Rastrigin 函數然后按照PSO算法的步驟進(jìn)行求解。此時(shí)的鄰域極值即為全局極值。這種模型在一定程度Shi與Eberhart的實(shí)驗證明,對大多數的非線(xiàn)性上克服了PSO模型在優(yōu)化搜索后期隨迭代次數增加搜Benchmark函數,PSO 在優(yōu)化速度和精度上均較遺傳算法索結果無(wú)明顯改進(jìn)的缺點(diǎn)。這-點(diǎn)已在四個(gè)Benchmark有一定的改善21。函數中得到驗證。4.2神經(jīng)網(wǎng)絡(luò )訓練( 3采用拉伸技術(shù)( Stretching technique的PSO模型工業(yè)、經(jīng)濟、醫療等領(lǐng)域的許多實(shí)際問(wèn)題如質(zhì)量控Parsopoulos 和Plagianakos于2001年提出將拉伸技術(shù)制、破產(chǎn)預測、圖像識別、醫療診斷等可以轉換為模式分用于PSO最小化問(wèn)題的求解,以避免陷入局部最小值的類(lèi)問(wèn)題求解。神經(jīng)網(wǎng)絡(luò )自學(xué)習、自組織、容錯以及模擬優(yōu)化19。這種模型稱(chēng)為SPSO。SPSO 模型在檢測到局非線(xiàn)性關(guān)系的能力使其特別適合解決上述復雜的實(shí)際部最優(yōu)后,立即對待優(yōu)化的函數進(jìn)行拉伸變形操作。拉應用問(wèn)題。伸變形操作的實(shí)現通過(guò)兩步完成:采用Sigmoid響應函數的三層前向神經(jīng)網(wǎng)絡(luò )能夠以Qx)=(x)+ Y業(yè)x-x業(yè)(sig((x)- (8))+1)( 12)任意精度模擬復雜的非線(xiàn)性關(guān)系而神經(jīng)網(wǎng)絡(luò ).上述性能sig((x)-(x))+1的實(shí)現依賴(lài)于對神經(jīng)網(wǎng)絡(luò )的充分訓練。因此,訓練算法Hx)=Qx)+ 22; tanlK(ζQx)-(x)))(13)對神經(jīng)網(wǎng)絡(luò )模式分類(lèi)的性能有較大影響。其中γ的μ為任意確定的正常數。式12 )的操作消除神經(jīng)網(wǎng)絡(luò )的訓練問(wèn)題屬于非線(xiàn)性的高復雜度的優(yōu)了所有位于(x)之上(即大于( x ))的局部最優(yōu)區域，從化問(wèn)題中國煤化工去依賴(lài)于初始權重的選而顯著(zhù)減小了PSO陷入局部最小區域優(yōu)化的概率,但是擇收Y片CNMHG邵最優(yōu)。BP的上述缺陷對全局最小值沒(méi)有任何影響。式13的操作將(x汲其尤其是局部?jì)?yōu)化特性便得其訓練的神經(jīng)網(wǎng)絡(luò )的輸出具鄰近區域向上拉伸(即將x及其鄰近區域的函數值(x)有不一致性和不可預測性導致其訓練的神經(jīng)網(wǎng)絡(luò )的可放大)這樣PSO在進(jìn)行下一步的優(yōu)化時(shí)能夠迅速排除靠性降低。遺傳算法雖然是基于群體的并行搜索算法對該區域的搜索。SPSO 在幾乎所有的高維度、多局部極但是遺傳算法復雜的遺傳操作如選擇、復制、交叉、變異值的函數最小值的求解問(wèn)題上與傳統PSO相比搜索成使神經(jīng)網(wǎng)絡(luò )的訓練時(shí)間隨問(wèn)題的規模及復雜程度呈指10.計算機應用研究2003年數級增長(cháng)。成功率。在此基礎上進(jìn)-步訓練模糊神經(jīng)網(wǎng)絡(luò )在分類(lèi)研究表明,PSO是-種很有潛力的神經(jīng)網(wǎng)絡(luò )訓練算成功率略有降低的情況下成功提取了三個(gè)決定性的模法粒子群優(yōu)化算法保留了基于種群的、并行的全局搜糊控制規則。將其表述如下:索策略其采用的速度-位移模型操作簡(jiǎn)單,避免了復Ifhigh2 andow4. thenclass2 i雜的遺傳操作22。在實(shí)際應用問(wèn)題(如運用PSO算法訓練神經(jīng)網(wǎng)絡(luò )進(jìn)行醫療診斷)取得了較高的成功率。目前以上闡述了粒子群優(yōu)化算法在函數優(yōu)化神經(jīng)網(wǎng)絡(luò )正在將其推廣到更多的應用領(lǐng)域。訓練和模糊系統控制等基本領(lǐng)域的應用。實(shí)際的優(yōu)化下面以簡(jiǎn)單的IRIS分類(lèi)問(wèn)題為例介紹PSO訓練神問(wèn)題往往可以轉換為上述問(wèn)題進(jìn)行求解。模糊神經(jīng)網(wǎng)經(jīng)網(wǎng)絡(luò )的過(guò)程(這里僅訓練神經(jīng)網(wǎng)絡(luò )的權重)絡(luò )系統的工作過(guò)程如圖5所示。IRIS數據庫是廣泛使用的模式分類(lèi)實(shí)例系統。含Qupuli有150個(gè)例子分為Setosa , Versicolor與Virginica三類(lèi),每IRIS(1)類(lèi)包含50個(gè)例子,由四個(gè)實(shí)數特征值描述分別表示花萼Sepal)長(cháng)度、花萼寬度、花瓣(Petal)倀度、花瓣寬度?！癐RIS(2)模式分類(lèi)問(wèn)題根據特性值分類(lèi)三種IRIS 植物。實(shí)驗. -input寬度●IRIS(3)般取101組數據用于神經(jīng)網(wǎng)絡(luò )學(xué)習訓練其余的49組數據用于測試其分類(lèi)性能。輸人層隱含層輸出層這里使用三層前饋神經(jīng)網(wǎng)絡(luò )。神經(jīng)網(wǎng)絡(luò )的輸入層.有四個(gè)節點(diǎn)代表IRIS植物的四種特征輸出層有三個(gè)節圖3 IRIS神經(jīng)輸人層模糊層模糊推理層 反模糊化層 輸出層點(diǎn)對應三種IRIS類(lèi)別。根據經(jīng)驗公式確定隱含層節點(diǎn)網(wǎng)絡(luò )結構圖圖4模糊神經(jīng)網(wǎng)絡(luò ) 系統結構圖個(gè)數為四個(gè)。在神經(jīng)網(wǎng)絡(luò )訓練問(wèn)題中粒子使用實(shí)數編精確值[爽糊北]-模糊規則推理一反模糊化十[精確值]碼表示神經(jīng)網(wǎng)絡(luò )在全連接結構下的一組權重為二十八圖5模糊神經(jīng)網(wǎng)絡(luò )系統的工作過(guò)程圖個(gè)待優(yōu)化參數。權重的范圍設定為( - 1 ,1 )在完成解下面簡(jiǎn)要介紹粒子群優(yōu)化算法在一些實(shí)際應用領(lǐng)的編碼后確定PsO優(yōu)化問(wèn)題的適應函數。對于神經(jīng)網(wǎng)域的進(jìn)展。絡(luò )訓練問(wèn)題,以給定訓練樣本集的神經(jīng)網(wǎng)絡(luò )輸出誤差作(1通過(guò)訓練神經(jīng)網(wǎng)絡(luò ),粒子群優(yōu)化算法已成功應為神經(jīng)網(wǎng)絡(luò )訓練問(wèn)題的適應函數,訓練誤差越小則對用到對醫學(xué)中震顫行為的分析[24]。震顫行為(包括帕金應粒子的性能越好。通過(guò)PSO的優(yōu)化搜索訓練神經(jīng)網(wǎng)森癥和人的本能顫抖的診斷仍是醫學(xué)研究的挑戰性領(lǐng)絡(luò )的權重以獲得盡可能低的訓練誤差。IRIS 分類(lèi)問(wèn)題域之一經(jīng)PSO訓練的人工神經(jīng)網(wǎng)絡(luò )已經(jīng)能夠區分人的的神經(jīng)網(wǎng)絡(luò )結構如圖3所示。本能震顫和病理性震顫。神經(jīng)網(wǎng)絡(luò )的輸入是由活動(dòng)變4.3模糊系 統控制化記錄儀記錄的標準化振動(dòng)強度,Eberhart 和Hu研究發(fā)模糊控制以模糊集理論作為其理論基礎,由Zadeh現這種方法在上述的應用中處理速度快、診斷結果準教授于1965年提出,已經(jīng)在很多實(shí)際領(lǐng)域取得成功應確。在對疾病如乳腺腫瘤是良性或惡性的判斷、心臟病用。其中基于模糊系統控制的全自動(dòng)洗衣機已經(jīng)進(jìn)入的診斷,PSO訓練的神經(jīng)網(wǎng)絡(luò )也取得了較高的診斷成功實(shí)用階段。模糊規則自動(dòng)生成是模糊控制領(lǐng)域的關(guān)鍵率。性技術(shù)之一;洞樣模糊規則的設定也是模糊控制器開(kāi)(2)日本的Fuji電力公司的研究人員將電力企業(yè)著(zhù)發(fā)的核心。對于多輸入或多模糊度的控制對象模糊規名的RPVQ Reactive Power and Voltage Control )問(wèn)題簡(jiǎn)化為則的生成已經(jīng)證明是NP-hard問(wèn)題。因此,研究模糊規函數的最小值問(wèn)題并使用改進(jìn)的PSO算法進(jìn)行優(yōu)化求則的自動(dòng)生成具有重要的研究和應用價(jià)值。解25。與傳統方法如專(zhuān)家系統、敏感性分析相比，實(shí)驗利用PSO算法優(yōu)化模糊控制系統,設計模糊控制器產(chǎn)生的結果證明了PSO算法在解決該問(wèn)題的優(yōu)勢。的研究尚處于起步階段。目前從模糊神經(jīng)網(wǎng)絡(luò )系統自(3將PSO算法與BP算法相結合訓練神經(jīng)網(wǎng)絡(luò )已動(dòng)提取模糊規則的研究在-些典型的問(wèn)題上取得進(jìn)展,用于對電動(dòng)汽車(chē)燃料電池組實(shí)時(shí)充電情況的模擬[20。這對于將自動(dòng)生成模糊系統控制規則的模糊控制器在對電動(dòng)汽車(chē)燃料電池帶電狀況的模擬是電動(dòng)汽車(chē)以及應用領(lǐng)域的推廣有很大的啟示?；旌蟿?dòng)力汽車(chē)技術(shù)發(fā)展過(guò)程中的重大課題。實(shí)驗證明該研究首先采用IF-THEN數學(xué)模型建立模糊神經(jīng)相對于1996年Eberhart ,Simpson和Dobbins的模擬方法,網(wǎng)絡(luò )系統。以二輸入二輸出系統為例,若每個(gè)輸入變上述方法的模擬精確程度明顯提高。量分為三個(gè)模糊度其神經(jīng)網(wǎng)絡(luò )結構如圖4所示。值得注意的是,PSO 算法已被美國一家公司用于將以IRIS分類(lèi)問(wèn)題的模糊規則的自動(dòng)提取為例3],各種生中國煤化工合，進(jìn)而人工合成微生首先建立四個(gè)輸入節點(diǎn),三個(gè)輸出節點(diǎn)的模糊神經(jīng)網(wǎng)物27]。CNMHG較,PSO產(chǎn)生合成結果絡(luò )。對于每一個(gè)輸入變量定義兩個(gè)相應的成員函數用的適應度是傳統方法的兩倍。買(mǎi)驗的優(yōu)化過(guò)程充分顯于對輸入值的模糊化處理。將150組數據平均分為兩部示了PSO算法的優(yōu)越性盡管-種劣質(zhì)成分在-定的迭分前75組數據用于模糊神經(jīng)網(wǎng)絡(luò )的訓練后75組數據代次數內能夠影響優(yōu)化搜索的進(jìn)程但是PSO最后總能用于對訓練結果的檢驗。經(jīng)過(guò)600次的運行后提取出十得到比較理想的合成結果。這是因為PSO本質(zhì)而言能五個(gè)控制規則,應用這十五個(gè)規則可以得到95%的分類(lèi)夠搜索到更大范圍內的優(yōu)化問(wèn)題的解空間。第12期周馳等粒子群優(yōu)化算法總的來(lái)說(shuō),粒子群優(yōu)化算法與其它進(jìn)化算法一樣,[11] Shi Y H, Eberhart R C. Fuzy Adaptive Particle Swarm .可以解決幾乎所有的優(yōu)化問(wèn)題或者是可以轉換為優(yōu)化Optimization[ R ]. Proceedings of Congress on Evolutionary問(wèn)題進(jìn)行求解的問(wèn)題。其中最具應用前景的領(lǐng)域包括Computation Seoul ,Korea 2001 .多目標問(wèn)題的優(yōu)化、系統設計、分類(lèi)、模式識別、生物系.[ 12 ]Clerce M. The Swarm and Queen :Towards a Deterministic andAdaptive Particle Swarm Optimization[ R ]. Proceedings統建模、規劃、信號處理、決策和模擬等。目前,在模糊Congress on Evolutionary Computation ,W ashintonDC ,1999.控制器的設計、車(chē)間任務(wù)調度、實(shí)時(shí)機器人路徑規劃、圖[13]Fan H Y ,Shi Y H. Study of Vmax of the Particle Swarn像分割、EEG信號模擬、語(yǔ)音識別、燒傷診斷以及探測移Optimization Algoritm[ R ]. Proceedings of the Workshop on動(dòng)目標等方面已經(jīng)有成功應用的先例。PSO. Indianapolis : Purdue School of Engineering andTechnology ,INPUI 2001.5總結和展望[ 14]Carlisle A ,Dozier G. Adapting Particle Swarm Opimization toDynamic EnironmentE[ R ]. Prceedings JICAI 2000.PSO在理論上并不能保證能夠得到最優(yōu)解。PSO 算[ 15 ]Carlisle A ,Dozier G. Tracking Changing Extrema with Particle法在進(jìn)行優(yōu)化問(wèn)題的求解時(shí)應用范圍有限尤其對離散Swarm OptimizeE R ]. Proceedings ICAI 2001 .的組合優(yōu)化問(wèn)題其理論建模還處于起步階段。PSO 算[ 16 ] Angeline P J. Using Selection to Improve Particle Swarmn Opti-法中的一些參數如學(xué)習因子C o2慣性權重w以及粒子mizatiorn[ R ]. IEEE International Conference on EvolutionaryComputation Anchorage Alaska ,1998.個(gè)數往往根據有限的應用經(jīng)驗確定并不具有廣泛的適[ 17] Lovbjerg M , Rasmusen Tk ,et al. Hybrid Particle Swarm應性。因此將PSO與進(jìn)化算法、模糊系統、神經(jīng)網(wǎng)絡(luò )以Optimization with Breeding and Subpopulations[ R ] IEEE及一些優(yōu)化技術(shù)結合根據不同的優(yōu)化問(wèn)題建立相應的Intermational Conference on Evolutionary Computation , San，PSO模型是PSO算法當前的研究重點(diǎn)。Diego 2000.在應用領(lǐng)域應該將PSO算法在應用的廣度和深度[ 18 ]Suganthan P N. Particle Swarm Optimizer with Neighborhood Op-進(jìn)行拓展。以制造業(yè)自動(dòng)化領(lǐng)域為例制造企業(yè)中的工erator [ R ]. Proceedings of Congress on Evolutionary藝路徑規劃問(wèn)題是企業(yè)自動(dòng)化的瓶頸問(wèn)題之一，直 接影Computation ,1999.響CAPP與CAD ,CAM系統的集成。究其原因是工藝路[ 19] Parsopoulos K E et al. Stretching Technique for Obaining GlobalMinimizers through Particle Swarm Opimization [ R ].徑規劃問(wèn)題的特殊性決定其對生產(chǎn)經(jīng)驗的嚴重依賴(lài)。Proceedings of the Workshop on PSO , Indianapolis : Purdue可以考慮將大量的工藝規劃經(jīng)驗組成專(zhuān)家系統根據不school of Engineering and Technology ,INPUI 2001 .同的工藝問(wèn)題制定相應的模糊控制規則并利用PSO算[ 20] Angeline P J. Evolutionary Optimization Versus Particle Swarm法訓練人工神經(jīng)網(wǎng)絡(luò )自動(dòng)生成工藝路徑。目前筆者正Optimization : Philosophy and Performance Diference[ R ]在從事這方面的研究工作。Annual Conference Center on Evolutionary Programning ,San ,Diego ,1998.參考文獻:[21]Shi Y H,et al. Experimental Study of Paticle Swarm Op[ 1] Kennedy J , Eberhart RC ,Shi Y. Swarm InelligenceC M ]. San .timization[ R ]. Proceedings of SCI Conference ,Orlando ,FL ,Francisco :Morgan Kaufman Publishers 2001.2000.[2] Matarie M. Designing and Understanding Adaptive Group Be- [ 22 ] Eberhart R C, Shi Y H. Evolving Artificial Neural Networkshavio[ J ] Adaptive Behavior ,1995 A :1-12.[ R ]. Proceedings of Int' l Conference on Neural Networks and[3] Dorigo M ,V Manierzo ,A Colormi . The Ant System :OptimizationBrain Bejjing ,1998( a).by a Colony of Cooperating Agents[ J ]. IEEE Transactions on[ 23 ]HeZ , Wei C et al. Extracting Rules from Fuzzy Neural NetworkSystems , Man and Cybermetics , 1996.by Particle Swarm Optimization[ R ] Proceedings of IEEE[4] Kennedy J ,Eberhart R C. Particle Swarm Optimization[ C]Intermational Conference on Evolutionary Computation ,Proceedings of IEEE International Conference on NeutralAnchorage ,Alaska ,JUSA ,1998 .Networks Perth ,Australia ,1995. 1942- 1948.[24] Eberhart R C .Hu X. Human Tremor Analysis Using Particle[5] Kennedy J. The Particle Swam Social Adaptation of KnowledgeSwarmOptimization [ R ]. Proceedings of Congress on[ C ] Proceedings of IEEE International Conference orEvolutionary Computation ,Washingon ,DC 1999. 1927- 1930.Evolutionary Computation ,Indianapolis ,Indiana ,1997.[ 25] Fukuyama Y ,Yoshida H A. Particle Swarm Optimization For[6] Eberhart R C , Kennedy J. A New Opimizer Using ParticleReactive Power and Voltage Control in Electric Power SystemsSwarm Theors[ C ] Proceedings of Sixth Intermational Symposium[ R ]. Proceedings of Congress on Evolutionary Computation ,Seoul ,Korea 2001 .Micro Machine and Human Science ,Nagoya Japan ,1995 .[7] Shi Y H ,Eberhart R C. Parameter Selection in Particle Swarm. [ 26] Eberhart R C ,Shi Y H. Particle Wwarm Optimization :De-velopment , Applications and Resources[ R ]. Proceedings ofOptimizatio[ C ]. Anmual ,1998.[8] Eberhart R C , Shi Y H. Coparison between Genetic AlgrithmsCongress on Evolutionary Computation Seoul ,Korea 2001.and Particle Swarm Optimization[ R ] Annual Conference on作者簡(jiǎn)中國煤化工Evolutionary Programming , San Diego ,1998.周馳(1TYHCN M H G粒子群優(yōu)化算法、智能制[9] Shi Y H ,Eberhart R C. A Mdified Particle Swarm Optimizer造高海共118-歷順上,徹九小向為進(jìn)化算法在CAPP中[ R ] IEEE Intermational Conference on Evolutionary的應用、CAPP系統開(kāi)發(fā)、敏捷制造;高亮( 1974- ),男副教授,Computation ,Anchorage ,Alaska ,1998.研究方向為先進(jìn)制造系統、制造執行系統、企業(yè)應用集成以及[ 10]Shi Y H et al. Empirical Study of Prticle Swarm OpimizationXML ,UML ,CORBA AGENT和遺傳算法在機械工程中的應用;[ R ]. Proeedings of Congress on Evolutionary Computation ,章萬(wàn)國(1977-),男碩士研究方向為計算機集成制造系統、1999.CAD/CAPP/PDM/MRPII集成、虛擬制造。