本文關(guān)鍵詞：粒子群算法，由筆耕文化傳播整理發(fā)布。

粒子群優(yōu)化算法簡(jiǎn)介

　　好好學(xué)數(shù)學(xué)。

　　經(jīng)朋友介紹，接了一份工作，就是做PSO及其優(yōu)化，恰好我導(dǎo)師也研究這個(gè)，剛開學(xué)也有接觸，那我就接了.......賺點(diǎn)生活費(fèi)。

　　歡迎大家和我聯(lián)系做算法類項(xiàng)目，QQ：791909235，Tel：13137910179。

　　5、適應(yīng)性原則：群體的模式應(yīng)在計(jì)算代價(jià)值得的時(shí)候改變。

　　對(duì)鳥群行為的模擬： Reynolds、Heppner和Grenader提出鳥群行為的 模擬。他們發(fā)現(xiàn)，鳥群在行進(jìn)中會(huì)突然同步的改 變方向，散開或者聚集等。那么一定有某種潛在 的能力或規(guī)則保證了這些同步的行為。這些科學(xué) 家都認(rèn)為上述行為是基于不可預(yù)知的鳥類社會(huì)行 為中的群體動(dòng)態(tài)學(xué)。 在這些早期的模型中僅僅依賴個(gè)體間距的操作， 也就是說(shuō)，這中同步是鳥群中個(gè)體之間努力保持 最優(yōu)的距離的結(jié)果。

　　對(duì)魚群行為的研究：生物社會(huì)學(xué)家E.O.Wilson對(duì)魚群進(jìn)行了研究。提出：“至少在理論上，魚群的個(gè)體成員能夠受益于群體中其他個(gè)體在尋找食物的過(guò)程中的發(fā)現(xiàn)和以前的經(jīng)驗(yàn)，這種受益超過(guò)了個(gè)體之間的競(jìng)爭(zhēng)所帶來(lái)的利益消耗，不管任何時(shí)候食物資源不可預(yù)知的分散。”這說(shuō)明，同種生物之間信息的社會(huì)共享能夠帶來(lái)好處。這是PSO的基礎(chǔ)。　

　　粒子群優(yōu)化算法的基本思想是通過(guò)群體中個(gè)體之間的協(xié)作和信息共享來(lái)尋找最優(yōu)解．
　　PSO的優(yōu)勢(shì)在于簡(jiǎn)單容易實(shí)現(xiàn)并且沒有許多參數(shù)的調(diào)節(jié)。目前已被廣泛應(yīng)用于函數(shù)優(yōu)化、神經(jīng)網(wǎng)絡(luò)訓(xùn)練、模糊系統(tǒng)控制以及其他遺傳算法的應(yīng)用領(lǐng)域。

　　設(shè)想這樣一個(gè)場(chǎng)景：一群鳥在隨機(jī)的搜索食物。 在這個(gè)區(qū)域里只有一塊食物，所有的鳥都不知 道食物在那。但是它們知道自己當(dāng)前的位置距 離食物還有多遠(yuǎn)。 那么找到食物的最優(yōu)策略是什么？ 最簡(jiǎn)單有效的就是搜尋目前離食物最近的鳥的 周圍區(qū)域。

　　鳥被抽象為沒有質(zhì)量和體積的微粒(點(diǎn))，并延伸到N維空間，粒子I 在N維空間的位置表示為矢量Xi＝(x1，x2，…，xN)，飛行速度表示為矢量Vi＝(v1，v2，…，vN)．每個(gè)粒子都有一個(gè)由目標(biāo)函數(shù)決定的適應(yīng)值(fitness value)，并且知道自己到目前為止發(fā)現(xiàn)的最好位置(pbest)和現(xiàn)在的位置Xi．這個(gè)可以看作是粒子自己的飛行經(jīng)驗(yàn)．除此之外，每個(gè)粒子還知道到目前為止整個(gè)群體中所有粒子發(fā)現(xiàn)的最好位置(gbest)(gbest是pbest中的最好值)．這個(gè)可以看作是粒子同伴的經(jīng)驗(yàn)．粒子就是通過(guò)自己的經(jīng)驗(yàn)和同伴中最好的經(jīng)驗(yàn)來(lái)決定下一步的運(yùn)動(dòng)。  

　　PSO初始化為一群隨機(jī)粒子(隨機(jī)解)。然后通過(guò)迭代找到最優(yōu)解。在每一次的迭代中，粒子通過(guò)跟蹤兩個(gè)“極值”(pbest,gbest)來(lái)更新自己。

　　在找到這兩個(gè)最優(yōu)值后，粒子通過(guò)下面的公式來(lái)更新自己的速度和位置。

　�。ㄎ矣浀肰i需要乘以慣性權(quán)重）。

　　i＝1，2，…，M，M是該群體中粒子的總數(shù)；Vi 是粒子的速度； pbest和gbest如前定義； rand()是介于（0、1）之間的隨機(jī)數(shù)； Xi 是粒子的當(dāng)前位置。 c1和c2是學(xué)習(xí)因子，通常取c1＝ c2＝2 在每一維，粒子都有一個(gè)最大限制速度Vmax，如果 某一維的速度超過(guò)設(shè)定的Vmax ，那么這一維的速度 就被限定為Vmax 。（ Vmax >0） 以上面兩個(gè)公式為基礎(chǔ)，形成了后來(lái)PSO 的標(biāo)準(zhǔn)形式。

　　1998年shi等人在進(jìn)化計(jì)算的國(guó)際會(huì)議上 發(fā)表了一篇論文《A modified particle swarm optimizer》對(duì)前面的公式進(jìn)行了修正。引入 慣性權(quán)重因子。值較大，全局尋優(yōu)能力強(qiáng)，局部尋優(yōu)能力弱； 值較小反之。

　　初始時(shí)，shi將 取為常數(shù)，后來(lái)實(shí)驗(yàn)發(fā)現(xiàn)，，動(dòng) 態(tài) 能夠獲得比固定值更好的尋優(yōu)結(jié)果。動(dòng)態(tài) 可以在PSO搜索過(guò)程中線性變化，也可根據(jù)PSO 性能的某個(gè)測(cè)度函數(shù)動(dòng)態(tài)改變。 目前，采用較多的是shi建議的線性遞減權(quán)值 (linearly decreasing weight, LDW)策略。

　　標(biāo)準(zhǔn)PSO算法的流程：

　　Step1:初始化一群微粒(群體規(guī)模為m)，包括隨機(jī)位置和 速度；

　　Step2:評(píng)價(jià)每個(gè)微粒的適應(yīng)度；

　　Step3:對(duì)每個(gè)微粒，將其適應(yīng)值與其經(jīng)過(guò)的最好位置 pbest作比較，如果較好，則將其作為當(dāng)前的 最好位置pbest;

　　Step4:對(duì)每個(gè)微粒，將其適應(yīng)值與其經(jīng)過(guò)的最好位置 gbest作比較，如果較好，則將其作為當(dāng)前的 最好位置gbest;

　　Step5:根據(jù)(2)、(3)式調(diào)整微粒速度和位置；

　　Step6：未達(dá)到結(jié)束條件則轉(zhuǎn)Step2。

　　迭代終止條件根據(jù)具體問題一般選為最大迭代次數(shù)Gk或(和)微粒群迄今為止搜索到的最優(yōu)位置滿足預(yù)定最小適應(yīng)閾值。

　　方程中pbest和gbest分別表示微粒群的局部和 全局最優(yōu)位置，當(dāng)C1＝0時(shí)，則粒子沒有了認(rèn)知能力， 變?yōu)橹挥猩鐣?huì)的模型(social-only):

　　被稱為全局PSO算法.粒子有擴(kuò)展搜索空間的能力，具有 較快的收斂速度，但由于缺少局部搜索，對(duì)于復(fù)雜問題 比標(biāo)準(zhǔn)PSO 更易陷入局部最優(yōu)。

　　當(dāng)C2＝0時(shí)，則粒子之間沒有社會(huì)信息，模型變?yōu)?只有認(rèn)知(cognition-only)模型：

　　被稱為局部PSO算法。由于個(gè)體之間沒有信息的 交流，整個(gè)群體相當(dāng)于多個(gè)粒子進(jìn)行盲目的隨機(jī) 搜索，收斂速度慢，因而得到最優(yōu)解的可能性小。

　　群體規(guī)模m 一般取20～40，對(duì)較難或特定類別的問題 可以取到100～200。

　　最大速度Vmax決定當(dāng)前位置與最好位置之間的區(qū)域的 分辨率(或精度)。如果太快，則粒子有可能越過(guò)極小 點(diǎn);如果太慢，則粒子不能在局部極小點(diǎn)之外進(jìn)行足 夠的探索，會(huì)陷入到局部極值區(qū)域內(nèi)。這種限制可以 達(dá)到防止計(jì)算溢出、決定問題空間搜索的粒度的目的。

　　權(quán)重因子 包括慣性因子 和學(xué)習(xí)因子c1和c2。 使粒子 保持著運(yùn)動(dòng)慣性，使其具有擴(kuò)展搜索空間的趨勢(shì)，有 能力探索新的區(qū)域。C1和c2代表將每個(gè)粒子推向Pbest 和gbest位置的統(tǒng)計(jì)加速項(xiàng)的權(quán)值。較低的值允許粒子 在被拉回之前可以在目標(biāo)區(qū)域外徘徊，較高的值導(dǎo)致粒 子突然地沖向或越過(guò)目標(biāo)區(qū)域。

　　通常設(shè)c1＝c2＝2。Suganthan的實(shí)驗(yàn)表明：c1和c2 為常數(shù)時(shí)可以得到較好的解，但不一定必須等于2。 Clerc引入收斂因子(constriction factor) K來(lái)保證 收斂性。

　　通常取 為4.1,則K＝0.729.實(shí)驗(yàn)表明，與使 用慣性權(quán)重的PSO算法相比，使用收斂因子的 PSO有更快的收斂速度。其實(shí)只要恰當(dāng)?shù)倪x取 和c1、c2，兩種算法是一樣的。因此使用收 斂因子的PSO可以看作使用慣性權(quán)重PSO的特 例。 恰當(dāng)?shù)倪x取算法的參數(shù)值可以改善算法的性能。

　　基本PSO是用于實(shí)值連續(xù)空間，然而許多實(shí)際問題是組合 優(yōu)化問題，因而提出離散形式的PSO。 速度和位置更新式為：

　　共性: （1）都屬于仿生算法。 (2) 都屬于全局優(yōu)化方法。 (3) 都屬于隨機(jī)搜索算法。 (4) 都隱含并行性。 (5) 根據(jù)個(gè)體的適配信息進(jìn)行搜索，因此不受函數(shù) 約束條件的限制，如連續(xù)性、可導(dǎo)性等。 (6) 對(duì)高維復(fù)雜問題，往往會(huì)遇到早熟收斂和收斂 性能差的缺點(diǎn)，都無(wú)法保證收斂到最優(yōu)點(diǎn)。

　　差異： (1) PSO有記憶，好的解的知識(shí)所有粒子都保 存，而GA，以前的知識(shí)隨著種群的改變被改變。 (2) PSO中的粒子僅僅通過(guò)當(dāng)前搜索到最優(yōu)點(diǎn)進(jìn)行共享信息，所以很大程度上這是一種單共享項(xiàng)信息機(jī)制。而GA中，染色體之間相互共享信息，使得整個(gè)種群都向最優(yōu)區(qū)域移動(dòng)。 (3) GA的編碼技術(shù)和遺傳操作比較簡(jiǎn)單，而PSO 相對(duì)于GA，沒有交叉和變異操作，粒子只是通過(guò)內(nèi)部速度進(jìn)行更新，因此原理更簡(jiǎn)單、參數(shù)更少、實(shí)現(xiàn)更容易。

　　GA可以用來(lái)研究NN的三個(gè)方面：網(wǎng)絡(luò)連接權(quán)重、網(wǎng)絡(luò) 結(jié)構(gòu)、學(xué)習(xí)算法。優(yōu)勢(shì)在于可處理傳統(tǒng)方法不能處理的 問題，例如不可導(dǎo)的節(jié)點(diǎn)傳遞函數(shù)或沒有梯度信息。 缺點(diǎn):在某些問題上性能不是特別好；網(wǎng)絡(luò)權(quán)重的編碼和 遺傳算子的選擇有時(shí)較麻煩。 已有利用PSO來(lái)進(jìn)行神經(jīng)網(wǎng)絡(luò)訓(xùn)練。研究表明PSO是一 種很有潛力的神經(jīng)網(wǎng)絡(luò)算法。速度較快且有較好的結(jié)果。 且沒有遺傳算法碰到的問題。

　　各算法對(duì)應(yīng)的問題如下：

　　PSO 用基本粒子群算法求解無(wú)約束優(yōu)化問題
　　YSPSO 用帶壓縮因子的粒子群算法求解無(wú)約束優(yōu)化問題
　　LinWPSO 用線性遞減權(quán)重粒子群優(yōu)化算法求解無(wú)約束優(yōu)化問題
　　SAPSO 用自適應(yīng)權(quán)重粒子群優(yōu)化算法求解無(wú)約束優(yōu)化問題
　　RandWPSO 用隨機(jī)權(quán)重粒子群優(yōu)化算法求解無(wú)約束優(yōu)化問題
　　LnCPSO 用學(xué)習(xí)因子同步變化的粒子群優(yōu)化算法求解無(wú)約束優(yōu)化問題
　　AsyLnCPSO 用學(xué)習(xí)因子異步變化的粒子群優(yōu)化算法求解無(wú)約束優(yōu)化問題
　　SecPSO 用二階粒子群優(yōu)化算法求解無(wú)約束優(yōu)化問題
　　SecVibratPSO 用二階振蕩粒子群優(yōu)化算法求解無(wú)約束優(yōu)化問題
　　CLSPSO 用混沌粒子群優(yōu)化算法求解無(wú)約束優(yōu)化問題
　　SelPSO 用基于選擇的粒子群優(yōu)化算法求解無(wú)約束優(yōu)化問
　　BreedPSO 用基于交叉遺傳的粒子群優(yōu)化算法求解無(wú)約束優(yōu)化問
　　SimuAPSO 用基于模擬退火的粒子群優(yōu)化算法求解無(wú)約束優(yōu)化問題

csdn鏈接（包含了基本PSO和12種優(yōu)化PSO算法，絕對(duì)能用）。

參考文獻(xiàn)：西電姚新正老師課件

csdn鏈接。

posted @

  本文關(guān)鍵詞：粒子群算法，由筆耕文化傳播整理發(fā)布。