基于正弦因子和量子局部搜索的灰狼優(yōu)化算法

徐辰華，駱珠光，吳冠宏，劉 斌

1.廣西大學(xué) 電氣工程學(xué)院，南寧530004

2.廣東技術(shù)師范大學(xué) 自動(dòng)化學(xué)院，廣州510630

灰狼優(yōu)化算法（Grey Wolf Optimization algorithm，GWO）是由Mirjalili等人[1]在2014年從灰狼階級(jí)層次的特點(diǎn)的啟發(fā)下提出來(lái)的。該算法通過(guò)模仿灰狼群體捕食行為來(lái)尋找目標(biāo)問(wèn)題的最優(yōu)解。與現(xiàn)有啟發(fā)式算法相比，GWO操作簡(jiǎn)單，調(diào)整的參數(shù)少，且由于它的最優(yōu)個(gè)體及運(yùn)動(dòng)方式依概率更新，具有更大的隨機(jī)性和更快的收斂速度，并在工程實(shí)踐的初步應(yīng)用中取得了良好的效果。

灰狼算法在求解一些復(fù)雜問(wèn)題時(shí)，表現(xiàn)出了良好的性能，如求解柔性車間調(diào)度問(wèn)題[2]、神經(jīng)網(wǎng)絡(luò)的優(yōu)化[3]、支持向量機(jī)的優(yōu)化[4]等。目前國(guó)內(nèi)外一些學(xué)者針對(duì)GWO進(jìn)行了研究，文獻(xiàn)[5]為解決復(fù)雜的高維函數(shù)問(wèn)題，將混沌理論和精英反向?qū)W習(xí)策略引入灰狼算法。文獻(xiàn)[6]提出一種自適應(yīng)遞減的收斂因子和基于慣性權(quán)重的步長(zhǎng)更新公式改進(jìn)的灰狼算法，提高了算法的搜索能力。文獻(xiàn)[7]對(duì)灰狼算法的位置更新，用最優(yōu)-最差正交反向?qū)W習(xí)策略來(lái)改進(jìn)，用于優(yōu)化多核極限學(xué)習(xí)機(jī)中的加權(quán)系數(shù)等參數(shù)。文獻(xiàn)[8]提出一種混合灰狼算法，將DE的交叉、變異因子引入算法中，提高了算法的性能。文獻(xiàn)[9]在GWO算法的基礎(chǔ)上引入Tent映射和正態(tài)云模型，分別從狼群初始分布和位置更新策略上改善算法尋優(yōu)性能。上述改進(jìn)方法雖然提高了GWO某一方面的性能，但是在算法收斂速度和尋優(yōu)精度上難以達(dá)到很好的平衡。

針對(duì)上述的問(wèn)題，本文提出一種基于正弦控制因子和量子局部搜索的灰狼優(yōu)化算法（Quantum Gray Wolf Optimization algorithm，QGWO）。首先，將控制因子按照具有正弦變化的曲線變化，使改進(jìn)的算法在迭代前期加快收斂速度以快速完成全局探索，而在迭代后期減緩收斂速度以提高搜索精度；同時(shí)，引入量子局部搜索降低算法陷入局部最優(yōu)解的概率；最后，通過(guò)12個(gè)標(biāo)準(zhǔn)測(cè)試函數(shù)進(jìn)行實(shí)驗(yàn)和工程實(shí)例驗(yàn)證，實(shí)驗(yàn)結(jié)果表明，QGWO算法具有更高的尋優(yōu)精度和更快的尋優(yōu)速度，能夠有效處理高維復(fù)雜問(wèn)題，可以有效平衡算法的收斂速度和尋優(yōu)精度。

1 灰狼優(yōu)化算法

灰狼群體社會(huì)等級(jí)機(jī)制如圖1所示。分別為統(tǒng)領(lǐng)狼α、副統(tǒng)領(lǐng)狼β、普通狼δ和底層狼ω。GWO算法主要包括三個(gè)環(huán)節(jié)：包圍獵物、追捕獵物和攻擊獵物。

圖1 灰狼種群等級(jí)制度示意圖Fig.1 Schematic diagram of grey wolf population hierarchy

1.1 包圍獵物

狼群在確定獵物位置后，首先對(duì)獵物進(jìn)行包圍，在此過(guò)程中灰狼與獵物的距離可表示為：

其中，t是迭代次數(shù)，Xp(t)是獵物的位置，X(t)是第t次迭代后灰狼的位置。A和C是矩陣系數(shù)，其定義如下：

其中，r1、r2表示[0，1]間的隨機(jī)變量，a隨著迭代次數(shù)的增大從2線性遞減到0，表達(dá)式為：

式中，tmax表示最大迭代次數(shù)。

1.2 追捕獵物

對(duì)獵物進(jìn)行圍困后，β、δ狼在α狼的帶領(lǐng)下對(duì)獵物進(jìn)行追捕，在追捕過(guò)程中，狼群個(gè)體位置會(huì)隨著獵物的逃跑而改變，因此灰狼群體可以依據(jù)α、β、δ的位置Xα、Xβ、Xδ進(jìn)行灰狼位置的更新：

其中，X(t+1)表示灰狼在的最終更新位置。

1.3 攻擊獵物

攻擊是狩獵的最后一步，狼群對(duì)獵物進(jìn)行擊殺，即得到最優(yōu)解。這個(gè)過(guò)程的完成，主要是通過(guò)式（5）中a值的遞減來(lái)實(shí)現(xiàn)，當(dāng)a的值從2線性遞減到0時(shí)，則與其對(duì)應(yīng)的A的值也在區(qū)間[-a,a]變化。

2 改進(jìn)的灰狼優(yōu)化算法

灰狼優(yōu)化算法在復(fù)雜問(wèn)題的求解上，存在收斂精度不高，收斂速度緩慢，易于陷入局部最優(yōu)等缺陷[10]。參數(shù)a決定了控制參數(shù)A的變化，如式（5）所示，A被限制在[0，2]的區(qū)間內(nèi)。當(dāng)||A≥1時(shí)，算法進(jìn)行全局探索，當(dāng)|A|＜1時(shí)，則算法進(jìn)行局部搜索，故參數(shù)a的變化會(huì)影響算法的搜索范圍。因此針對(duì)上述問(wèn)題，對(duì)灰狼算法進(jìn)行以下的改進(jìn)。

2.1 控制因子正弦變化

由上述可知，a越大，算法的全局探索能力越強(qiáng)；a越小，算法的局部搜索能力越強(qiáng)。式（5）描述的參數(shù)a是呈線性遞減的，為了提高算法的局部搜索能力，所以對(duì)式（5）進(jìn)行改進(jìn)。本文根據(jù)正弦曲線變化的特點(diǎn)，將控制因子a的變化改成式（9），控制因子a的變化趨勢(shì)由線性遞減變成迭代前期減小速度較快，而在迭代后期減小速度變慢。則算法在迭代前期能夠快速完成全局搜索，在迭代后期可以充分進(jìn)行局部搜索。

2.2 引入個(gè)體平均歷史位置

為了提高算法的性能，對(duì)每一只灰狼建立歷史最優(yōu)位置的記錄Xhi，以及整個(gè)灰狼群體的歷史最優(yōu)位置Xg，設(shè)Xm是平均灰狼的歷史最好位置。

其中，N為種群個(gè)數(shù)。

2.3 量子局部搜索

首先計(jì)算當(dāng)前代的自適應(yīng)擴(kuò)張系數(shù)：

其中，tmax為最大迭代次數(shù)，βmax和βmin為預(yù)設(shè)的自適應(yīng)擴(kuò)張系數(shù)的最大值和最小值，一般為1和0.5。再根據(jù)式（10）計(jì)算平均灰狼歷史最好位置，基于個(gè)體歷史最優(yōu)和群體歷史最優(yōu)位置，生成一個(gè)吸引點(diǎn)：

其中，?是一個(gè)1×d的在[0，1]之間服從均勻分布的隨機(jī)數(shù)矩陣。

以δ勢(shì)阱為基礎(chǔ)，假設(shè)每一個(gè)狼群的位置向量具有量子行為，利用波函數(shù)?(x,t)來(lái)描述該位置向量的狀態(tài)。假設(shè)狼群在以吸引點(diǎn)為中心的一維δ勢(shì)阱中運(yùn)動(dòng)，解一維δ勢(shì)阱的薛定諤方程（Schrodinger），得到該位置向量在空間某一點(diǎn)出現(xiàn)的概率密度函數(shù)：

再通過(guò)蒙特卡羅（Monte-Carlo）隨機(jī)模擬得到新的位置向量的位置方程為：

其中，u是一個(gè)1×d的在[0，1]之間服從均勻分布的隨機(jī)數(shù)矩陣。

2.4 算法步驟

步驟1初始化算法參數(shù)，群體規(guī)模大小為N，最大迭代次數(shù)tmax，以及初始化群體位置。

步驟2計(jì)算每個(gè)灰狼個(gè)體的適應(yīng)度值，并記錄個(gè)體歷史最優(yōu)以及群體歷史最優(yōu)位置，選擇適應(yīng)度值最小的前3個(gè)個(gè)體位置，分別為Xα、Xβ、Xδ。

步驟3按照式（6）計(jì)算剩余個(gè)體ω與Xα、Xβ、Xδ的距離，并根據(jù)式（6）～（8）更新灰狼α、β、δ和獵物的位置。

步驟4按照式（3）、（4）更新參數(shù)A、C的值和式（9）更新參數(shù)a的值。

步驟5計(jì)算當(dāng)前代的自適應(yīng)擴(kuò)張系數(shù)以及平均灰狼歷史最好位置Xm。

步驟6基于個(gè)體歷史最優(yōu)和群體歷史最優(yōu)位置，生成一個(gè)吸引點(diǎn)，并根據(jù)公式（10）～（14）進(jìn)行基于量子行為的位置更新。

步驟7若算法到達(dá)最大迭代次數(shù)tmax，算法結(jié)束并根據(jù)式（8）輸出最優(yōu)解Xα；否則，返回步驟2。

3 仿真實(shí)驗(yàn)及分析

3.1 測(cè)試函數(shù)及性能指標(biāo)

所有仿真實(shí)驗(yàn)在Intel?CoreTM，CPU i7-8550U，12 GB內(nèi)存和Windows 10的PC上運(yùn)行，程序采用MATLAB 2018a的M腳本語(yǔ)實(shí)現(xiàn)。本文選取了12個(gè)標(biāo)準(zhǔn)測(cè)試函數(shù)進(jìn)行仿真實(shí)驗(yàn)，用來(lái)驗(yàn)證所提出的QGWO算法的有效性，并將最優(yōu)解在原點(diǎn)或原點(diǎn)附近的測(cè)試函數(shù)進(jìn)行了隨機(jī)位移。測(cè)試函數(shù)表達(dá)式、自變量的搜索范圍和最優(yōu)值如表1所示。其中，f1～f4是不定維單峰函數(shù)，f5～f8是不定維多峰函數(shù)，f9～f12是固定維多峰函數(shù)。單峰函數(shù)主要用于測(cè)試算法的收斂速度和求解精度，多峰函數(shù)主要用于測(cè)試算法全局搜索能力。由于最優(yōu)解是優(yōu)化算法的搜索目標(biāo)，為了更好地評(píng)價(jià)優(yōu)化算法的性能，本文用算法對(duì)各測(cè)試函數(shù)的最佳求解結(jié)果的均值和標(biāo)準(zhǔn)差來(lái)評(píng)價(jià)各算法的性能。其中，平均值反映算法求解精度，標(biāo)準(zhǔn)差反映了算法求解的穩(wěn)定性。

表1 12個(gè)基準(zhǔn)測(cè)試函數(shù)Table 1 Twelve classical benchmark test functions

3.2 參數(shù)設(shè)置及實(shí)驗(yàn)結(jié)果

實(shí)驗(yàn)的種群規(guī)模N=50,最大迭代次數(shù)為5E+04，位移oi(i=1,2,…,n)在變量范圍內(nèi)隨機(jī)產(chǎn)生，各算法的實(shí)驗(yàn)參數(shù)設(shè)置如表2所示。為了研究算法在不同維度下的性能，測(cè)試函數(shù)f1～f8在實(shí)驗(yàn)中的維數(shù)分別設(shè)置為n=10、30、50。為了減小隨機(jī)誤差，每個(gè)測(cè)試函數(shù)都用五種優(yōu)化算法獨(dú)立運(yùn)算30次，記錄算法所求得的最優(yōu)函數(shù)值的平均值和標(biāo)準(zhǔn)差，結(jié)果如表3～表5所示。

表2 算法的實(shí)驗(yàn)參數(shù)設(shè)置Table 2 Experimental parameter setting

表3 單峰測(cè)試函數(shù)的求解結(jié)果Table 3 Solution result of unimodal test function

從表3～表5可看出，在設(shè)定的參數(shù)條件下，QGWO與其他四種算法相比，對(duì)f1～f12這12個(gè)測(cè)試函數(shù)的求解中，QGWO的求解結(jié)果均最小，標(biāo)準(zhǔn)差也最小，說(shuō)明QGWO具有比其他四種算法更好的求解精度和魯棒性。當(dāng)維度n從10增加到30和50時(shí)，各算法對(duì)測(cè)試函數(shù)的求解精度和穩(wěn)定性都有所下降，這是因?yàn)榫S度的增加會(huì)使測(cè)試函數(shù)更復(fù)雜，算法求解需做更多的調(diào)節(jié)。

表4 多峰測(cè)試函數(shù)的求解結(jié)果Table 4 Solution result of multimodal test function

表5 固定維測(cè)試函數(shù)的求解結(jié)果Table 5 Solution result of fixed dimension test function

在算法迭代過(guò)程中，記錄每次評(píng)價(jià)的最佳適應(yīng)度，求出每次評(píng)價(jià)的平均最優(yōu)值并繪制曲線，該曲線反映了算法的收斂趨勢(shì)，因篇幅問(wèn)題，選取部分函數(shù)收斂曲線如圖2～圖4所示。單峰、多峰的各個(gè)函數(shù)的收斂曲線趨勢(shì)基本一致，因此，單峰函數(shù)選取f2函數(shù)的收斂圖，多峰函數(shù)選取f6函數(shù)的收斂圖，固定維函數(shù)選取f9、f10、f11來(lái)反映改進(jìn)算法在不同函數(shù)上的收斂性。采用本文提出的QGWO對(duì)表1的測(cè)試函數(shù)進(jìn)行數(shù)值實(shí)驗(yàn)，并與GWO、正余弦算法[11]（Sine Cosine Algorithm，SCA）、鯨魚優(yōu)化算法（Whale Optimization Algorithm，WOA）[12]和改進(jìn)的灰狼優(yōu)化算法（CGWO）[13]進(jìn)行結(jié)果對(duì)比。

圖2 f2函數(shù)收斂曲線Fig.2 f 2 function convergence curve

圖4 部分固定維函數(shù)收斂曲線Fig.4 Convergence curve of partially fixed dimensional functions

從圖2可知，求解單峰函數(shù)f2時(shí)，WOA、GWO和CGWO均過(guò)早收斂到局部最優(yōu)解，而QGWO隨著迭代進(jìn)行繼續(xù)向目標(biāo)解收斂。因?yàn)榭刂埔蜃觓按照式（9）先快速減小后緩慢減小的非線性變化，先加快了算法的收斂速度以快速的進(jìn)行全局探索，然后再減緩收斂速度以進(jìn)行局部搜索，算法引入的量子局部搜索策略，根據(jù)式（12）生成的一個(gè)吸引點(diǎn)，灰狼種群在以該吸引點(diǎn)為中心進(jìn)行一維勢(shì)阱中運(yùn)動(dòng)，增加了新個(gè)體的多樣性，使得灰狼種群的個(gè)體具有更好的分布性，最后根據(jù)式（14）進(jìn)行位置更新，進(jìn)而降低算法陷入局部最優(yōu)的概率，使得算法具有更好的尋優(yōu)性能。從圖3可以看出，各算法對(duì)多峰測(cè)試函數(shù)f6，在不同的維度的求解結(jié)果，WOA、SCA、GWO和CGWO也都過(guò)早收斂到局部最優(yōu)解，只有QGWO繼續(xù)向最優(yōu)解收斂。而從表5和圖4可知，在對(duì)固定維函數(shù)的求解中，QGWO均能找到f9～f12的理論最優(yōu)值，且求解速度和收斂速度都很快。在求解f12時(shí)，各算法均能收斂到最優(yōu)解，但QGWO的標(biāo)準(zhǔn)差最小，魯棒性更好。

圖3 f6函數(shù)收斂曲線Fig.3 f6 function convergence curve

為了研究種群規(guī)模大小對(duì)算法性能的影響，在其他條件不變的情況下，將種群規(guī)模大小分別設(shè)置為20、50和100。如圖5～圖7所示是單峰函數(shù)f2、多峰函數(shù)f5以及固定維函數(shù)f9在種群規(guī)模分別為20、50和100的收斂曲線，從圖5～圖7中可以看出在最大迭代次數(shù)和位移等條件不變的情況下，種群規(guī)模的大小對(duì)算法性能的影響比較小。

圖5 f2函數(shù)實(shí)驗(yàn)結(jié)果對(duì)比Fig.5 f2 Comparison of function experiment results

圖7 f9函數(shù)實(shí)驗(yàn)結(jié)果對(duì)比Fig.7 f9 Comparison of function experiment results

3.3 模型優(yōu)化實(shí)驗(yàn)

為了驗(yàn)證QGWO算法在求解實(shí)際優(yōu)化問(wèn)題的性能，將QGWO優(yōu)化核極限學(xué)習(xí)機(jī)（KELM）[14]與GWO、CGWO優(yōu)化的KELM以及KELM的分類性能進(jìn)行比較，采用UCI標(biāo)準(zhǔn)多分類數(shù)據(jù)集比較這幾種方法的性能。從UCI標(biāo)準(zhǔn)分類數(shù)據(jù)集中選擇Breast/Iris/Cancer/Heart四個(gè)數(shù)據(jù)集進(jìn)行實(shí)驗(yàn)訓(xùn)練與測(cè)試，其中選用的每個(gè)數(shù)據(jù)集的特征信息如表6。

表6 UCI數(shù)據(jù)集的屬性信息Table 6 Attribute information of UCI dataset

圖6 f5函數(shù)實(shí)驗(yàn)結(jié)果對(duì)比Fig.6 f5 Comparison of function experiment results

表6 中的數(shù)據(jù)集訓(xùn)練樣本均采用隨機(jī)選取方式確定，數(shù)據(jù)集剩余樣本作為測(cè)試集。由于數(shù)據(jù)集的不同屬性指標(biāo)間一般因量綱等差異而影響分類器性能，需要對(duì)數(shù)據(jù)集進(jìn)行歸一化處理[15]，計(jì)算公式為：

其中，xmax(j)和xmin(j)分別表示第j列的最大值和最小值；x(i,j)和X(i,j)分別表示歸一化前后的樣本值。

為了驗(yàn)證QGWO-KELM算法有效性，分別用KELM、GWO-KELM、CGWO-KELM和QGWO-KELM在4個(gè)數(shù)據(jù)集上分別采用10次5折交叉驗(yàn)證，將每個(gè)數(shù)據(jù)集分成5份，然后取其中4份作為訓(xùn)練數(shù)據(jù)集，剩下的1份作為測(cè)試數(shù)據(jù)集，進(jìn)行實(shí)驗(yàn)，取10次結(jié)果精度的平均值作為算法的精度，并將最終實(shí)驗(yàn)結(jié)果與KELM算法、GWO-KELM算法和CGWO-KELM算法進(jìn)行對(duì)比，結(jié)果如表7所示。

從表7中的實(shí)驗(yàn)結(jié)果可以看出，QGWO-KELM算法的分類效果最好，且用時(shí)與CGWO-KELM相比更短。QGWO-KELM算法與經(jīng)典的KELM算法、GWO-KELM和CGWO-KELM算法相比，分類效果均最高，從實(shí)驗(yàn)結(jié)果可以看出QGWO算法具有良好的優(yōu)化性能。

表7 分類測(cè)試結(jié)果Table 7 Classification test results

4 結(jié)束語(yǔ)

為了解決灰狼算法求解復(fù)雜問(wèn)題時(shí)，存在收斂速度慢，易于陷入局部最優(yōu)等缺點(diǎn)，本文提出一種基于正弦控制因子和量子局部搜索策略的改進(jìn)灰狼優(yōu)化算法。通過(guò)12個(gè)標(biāo)準(zhǔn)測(cè)試函數(shù)進(jìn)行仿真實(shí)驗(yàn)，結(jié)果表明，本文提出的QGWO算法與其他算法相比，具有更好尋優(yōu)性能和穩(wěn)定性；通過(guò)四個(gè)UCI標(biāo)準(zhǔn)分類數(shù)據(jù)集進(jìn)行分類實(shí)驗(yàn)，結(jié)果顯示模型QGWO-KELM具有更好的分類效果，證明改進(jìn)后的QGWO算法可以有效處理復(fù)雜的優(yōu)化問(wèn)題。下一步研究?jī)?nèi)容考慮將QGWO算法應(yīng)用于鋁熔煉生產(chǎn)過(guò)程模型的優(yōu)化問(wèn)題上。