• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    結(jié)合群體協(xié)同與和聲搜索策略的果蠅優(yōu)化算法*

    2016-11-22 02:07:20
    計算機與生活 2016年11期
    關(guān)鍵詞:測試函數(shù)果蠅種群

    劉 樂

    濟南大學 管理學院,濟南 250002

    結(jié)合群體協(xié)同與和聲搜索策略的果蠅優(yōu)化算法*

    劉 樂+

    濟南大學 管理學院,濟南 250002

    LIU Le.Fruit fly optimization algorithm by combining strategies of swarm collaboration and harmony search.Journal of Frontiers of Computer Science and Technology,2016,10(11):1587-1600.

    為了改善標準果蠅優(yōu)化(fruit fly optimization,F(xiàn)FO)算法易陷入局部極優(yōu),收斂精度不高的不足,提出了一種結(jié)合群體協(xié)同(swarm collaboration,SC)與和聲搜索(harmony search,HS)策略的新型果蠅優(yōu)化算法FFO-SC+HS。該算法基于隨機確定的單一維度和動態(tài)搜索半徑得到果蠅個體的食物源位置,并在種群中心位置的逐代更新環(huán)節(jié)新增了兩個可供選擇的備選位置。兩備選位置均出自按群體協(xié)同策略重構(gòu)后的位置集合,其一為重構(gòu)后位置向量集合中的最佳位置,另一則為借助和聲搜索策略得到的新位置向量。為驗證所設(shè)計算法的有效性,在10種測試函數(shù)上進行了大量的計算實驗與性能對比分析,結(jié)果表明FFO-SC+HS在求解質(zhì)量、收斂能力上優(yōu)于其他4種已報道的FFO算法,并發(fā)現(xiàn)3個主要參數(shù)的不同取值組合對其優(yōu)化性能具有顯著影響,所采取的SC與HS策略缺一不可。

    果蠅優(yōu)化;群體協(xié)同;和聲搜索;函數(shù)優(yōu)化

    1 引言

    果蠅優(yōu)化(fruit fly optimization,F(xiàn)FO)算法由Pan于2011年最早提出[1],是一種受果蠅覓食行為啟發(fā)的新型群體智能優(yōu)化技術(shù)。自然界中的果蠅通常具備出眾的嗅覺與視覺能力,能在所處群體中心位置的基礎(chǔ)上自如地確定下一步的覓食步長與方向,從而逐漸向遠處的食物源靠近。果蠅優(yōu)化算法源于對果蠅覓食習性的模仿;面向待優(yōu)化問題的解空間,它分嗅覺覓食(osphresis foraging)和視覺覓食(vision foraging)兩個階段進行迭代式隨機搜索,不考慮求解空間是否連續(xù)、可微,無需目標函數(shù)的梯度信息。自問世以來,果蠅優(yōu)化算法憑借流程簡單,易于實現(xiàn),控制參數(shù)少(僅2個),易跟其他啟發(fā)式優(yōu)化技術(shù)相混合等優(yōu)勢,已在財務(wù)危機數(shù)據(jù)分析[2]、參數(shù)辨識[3-4]、電子節(jié)流閥控制[5]、年度電力負荷預(yù)測[6]、雙級供應(yīng)鏈網(wǎng)絡(luò)優(yōu)化[7]、煉鋼重調(diào)度優(yōu)化[8]等領(lǐng)域得到成功應(yīng)用,并為多維度背包[9]、置換流水線調(diào)度[10]、隨機資源約束項目調(diào)度[11]、多產(chǎn)品聯(lián)合補貨[12]等典型NP-Hard問題提供了新穎、高效的求解手段。

    標準果蠅優(yōu)化算法在實際應(yīng)用中具備不易跳出局部極優(yōu),收斂精度不高等缺陷。為此,近年來相繼涌現(xiàn)出了若干成功的果蠅優(yōu)化改進算法。這些算法的改進思路大致分為3類:一是在嗅覺覓食階段改進果蠅個體獲得食物源位置的方式,并引入新的參數(shù)及其設(shè)置方式,例如基于新解線性生成機制的果蠅優(yōu)化算法(linear generation mechanism of candidate solution-based fruit fly optimization algorithm,LGMSFOA)[13]、基于“歷史認知”的果蠅優(yōu)化算法(FOA based on history cognition,F(xiàn)OABHC)[14]以及基于隨機確定的單維分量與動態(tài)搜索半徑的改進果蠅優(yōu)化算法(improved FFO,IFFO)[15]。二是在視覺覓食階段通過融合先進的啟發(fā)式優(yōu)化機理以求不斷改善果蠅種群的中心位置,例如基于細菌趨化的果蠅優(yōu)化算法(bacterial chemotaxis-based FOA,BCFOA)[16]、自適應(yīng)混沌果蠅優(yōu)化算法(adaptive chaos FOA,ACFOA)[17]以及基于最優(yōu)最差個體協(xié)同學習的果蠅優(yōu)化算法(best-worst FOA,BWFOA)[18]等。三是在標準果蠅優(yōu)化算法框架基礎(chǔ)上融合多種群協(xié)同進化機制,提出了改進的果蠅優(yōu)化算法,包括動態(tài)雙子群協(xié)同進化果蠅優(yōu)化算法(dynamic double subgroups cooperative FOA,DDSCFOA)[19]和新型多種群果蠅優(yōu)化算法(multi-swarm FOA,MFOA)[3]。相比而言,運用第三類改進思路的果蠅優(yōu)化算法目前還較少;第一、二類改進思路吸引了更多人的研究興趣。最近,由Wang等人提出的改良型果蠅優(yōu)化算法(improved FOA,IFOA)[12]中,前兩類改進思路同時得以實施,并取得了令人滿意的改進效果。

    為了進一步挖掘果蠅優(yōu)化算法的優(yōu)化潛力,本文設(shè)計了一種新的混合果蠅優(yōu)化算法,稱為“結(jié)合群體協(xié)同與和聲搜索策略的果蠅優(yōu)化算法”(FFO with swarm collaboration and harmony search strategies,F(xiàn)FO-SC+HS)。該算法在每次迭代過程中面向單維分量生成食物源位置,并通過融合群體協(xié)同機制(swarm collaboration,SC)以及和聲搜索(harmony search,HS)策略來改進果蠅種群中心位置的逐代更新方式。在現(xiàn)有的諸多改進果蠅優(yōu)化算法中,IFFO算法[15]、MFOA算法[3]和IFOA算法[12]無論在優(yōu)化機理上,還是在優(yōu)化性能上均較標準果蠅優(yōu)化算法有明顯改進。為此,本文以上述3種算法為主要比較對象,在選定的10種測試函數(shù)上進行一系列計算實驗。實驗結(jié)果顯示,F(xiàn)FO-SC+HS算法在函數(shù)優(yōu)化質(zhì)量、收斂能力上均具備相對優(yōu)越性。此外,還基于實驗設(shè)計方法分析了不同參數(shù)取值組合以及兩種融合策略對于所提出算法優(yōu)化性能的影響。

    2 標準的果蠅優(yōu)化算法

    果蠅優(yōu)化算法實質(zhì)上是一種模擬果蠅嗅覺覓食與視覺覓食行為的迭代式全局搜索方法。數(shù)學優(yōu)化問題的n維求解空間決定著果蠅種群的允許飛行空間;各果蠅個體在n維空間中的所處位置代表已搜索到的解向量。在每次迭代搜索過程中,都要先后經(jīng)歷“嗅覺覓食”與“視覺覓食”兩個階段。敏銳的嗅覺能力使每個果蠅都能從當前種群的中心聚集位置出發(fā),借助一定的覓食步長接近食物源位置。果蠅個體的當前所處位置對應(yīng)于由優(yōu)化目標函數(shù)所決定的味道濃度(smell concentration)。“視覺覓食”的過程即為從當前果蠅群體中確定味道濃度最佳的果蠅所處位置,如果該位置的味道濃度優(yōu)于當前群體中心位置,則其他果蠅個體憑借視覺追蹤能力向該位置聚集。

    對于數(shù)學優(yōu)化問題的界定以及標準果蠅優(yōu)化算法對其求解的一般步驟可描述如下。

    對于待最小化的數(shù)學優(yōu)化問題:其中,n為解空間的維數(shù);X=(x1,x2,…,xn)為解向量;f(?)為待優(yōu)化的目標函數(shù);LBi和UBi分別為決策變量xi取值范圍的下界與上界值(i∈{1,2,…,n})。

    步驟1初始化控制參數(shù)和果蠅群體的中心位置。首先對種群規(guī)模Popsize和最大迭代次數(shù)Itermax進行初始化。然后,在待搜索的n維空間中按下式隨機生成初始的果蠅種群中心位置Δ=(δ1,δ2,…,δn)。

    其中,函數(shù)rand(S)隨機返回集合S的任一元素。

    步驟2各個果蠅從當前的種群中心位置Δ出發(fā)進行嗅覺覓食搜索,隨機得到Popsize個食物源位置。假設(shè)Pop={X(1),X(2),…,X(Popsize)}為所生成的食物源位置集合。第p個果蠅飛往的食物源位置;分量可由下式得出:

    其中,Li=di+rand([-1,1]),i=1,2,…,n。

    步驟3根據(jù)目標函數(shù)式 f(?)計算各個食物源位置X(p)的味道濃度(p=1,2,…,Popsize),并展開視覺覓食搜索,即將最佳味道濃度所對應(yīng)的食物源位置作為種群的新中心位置。具體地,首先從當前位置集合Pop中找出具備最小目標值的食物源位置Xbest,即;若 Xbest優(yōu)于當前種群的中心位置Δ,則Xbest為新的種群中心位置,即Δ←Xbest當且僅當 f(Xbest)

    步驟4判斷迭代終止條件是否已滿足。如果迭代終止準則尚未滿足(如未達到最大迭代次數(shù)Itermax),則轉(zhuǎn)回步驟2;否則,輸出搜索到的最佳食物源位置X*及其味道濃度 f(X*),結(jié)束。

    3 新型的果蠅優(yōu)化改進算法

    相互均衡的集約化(intensification)與分散化(diversification)搜索策略是成功開發(fā)出元啟發(fā)式算法的重要保證。集約化尋優(yōu)旨在迄今最佳解的鄰近區(qū)域?qū)嵤┚植克阉鳎欢ǔ潭壬蠒黾忧蟮酶媒獾母怕?;但過分追求集約化,易使算法陷入局部極優(yōu),弱化全局優(yōu)化搜索的能力。分散化尋優(yōu)往往要借助當前種群信息或啟發(fā)式信息執(zhí)行覆蓋全局的隨機化搜索,這樣有助于算法擺脫局部極優(yōu);但一味注重搜索的分散化,會徒勞地評價許多非最優(yōu)解,進而影響整體的優(yōu)化搜索效率。為此,成功的果蠅優(yōu)化改進算法應(yīng)實現(xiàn)集約化與分散化搜索之間的有效協(xié)調(diào),既要在嗅覺覓食階段強化集約化搜索的作用,又需在果蠅種群中心位置的更新環(huán)節(jié)實施專門的分散化尋優(yōu)機制。

    3.1 基于單維分量生成食物源位置

    為進一步增強解搜索的集約化程度,算法FFOSC+HS擬在嗅覺覓食階段采取文獻[15]中的相關(guān)做法,即基于隨機確定的單維分量和動態(tài)搜索半徑生成果蠅個體的食物源位置。其中,每個新生成的食物源位置跟當前種群的中心位置Δ相比,僅在唯一的分量值上有差別;至于哪一維分量,則由相應(yīng)的果蠅個體在嗅覺覓食前隨機確定;該分量值上的變動幅度將受動態(tài)搜索半徑的影響。假設(shè)為第p個果蠅嗅覺覓食所得食物源位置X(p)的第i維分量(p= 1,2,…,Popsize,i=1,2,…,n),則有:

    其中,搜索半徑Ri的值適宜隨著迭代次數(shù)的增加而變小[3,15]。在此擬運用文獻[3]中對搜索半徑的設(shè)置方法,即在第iter次迭代中,Ri(iter)的計算公式為:

    結(jié)合前期實驗結(jié)果發(fā)現(xiàn),算法FFO-SC+HS中指數(shù)參數(shù)?的取值應(yīng)大于5。

    3.2 基于群體協(xié)同與和聲搜索的分散化尋優(yōu)

    果蠅群體中心位置Δ的更新頻次是影響果蠅優(yōu)化算法求解精度與效率的關(guān)鍵因素。為了促進種群中心位置在逐次迭代中的頻繁更新,需要通過引入分散化尋優(yōu)機制來擴展種群中心位置的擇優(yōu)選取范圍。食物源位置集合的結(jié)構(gòu)性變化會引起種群中心位置的不同。為此,在果蠅優(yōu)化算法的每次迭代中,可考慮對嗅覺覓食階段形成的位置集合Pop進行自適應(yīng)重構(gòu)。重構(gòu)后的新位置集合既要發(fā)揮現(xiàn)有種群中心位置的引導作用,也要體現(xiàn)位置向量的多樣性。受文獻[12]中成功做法的啟發(fā),算法FFO-SC+ HS中擬基于群體協(xié)同策略,對由若干食物源位置組成的集合執(zhí)行重構(gòu)過程。

    重構(gòu)后的食物源位置集合負責產(chǎn)生若干新的候選中心位置。除了其中具有最小目標值的食物源位置外,還可面向重構(gòu)后的位置集合,按特定的啟發(fā)式策略隨機生成候選的中心位置。每次迭代中候選的種群中心位置增多,有助于提高中心位置的更新頻次,但由于候選中心位置的產(chǎn)生與解質(zhì)量評價過程均會耗用一定的計算時間開銷,擴充的數(shù)目不宜過多,否則會影響算法的整體搜索效率。為了確保候選的中心位置少而精,面向重構(gòu)后位置集合隨機生成的候選中心位置應(yīng)在體現(xiàn)一定隨機性的基礎(chǔ)上,注重保留重構(gòu)后位置集合中的歷史搜索信息。由此,對于所采取的啟發(fā)式候選中心位置生成策略,提出了面向群體,對歷史搜索信息記憶能力強,易實現(xiàn),易跟其他元啟發(fā)式算法相混合的要求。事實上,和聲搜索算法就是一種具備上述特征的元啟發(fā)式優(yōu)化技術(shù)。該技術(shù)由Geem等人于2001年最早提出[20],根源于現(xiàn)實中的樂隊即興創(chuàng)作過程。目前,它已在特征選擇、鋼架結(jié)構(gòu)設(shè)計、儲能系統(tǒng)研發(fā)、單元式制造系統(tǒng)調(diào)度等領(lǐng)域得到廣泛應(yīng)用[21-24]。由此,在算法FFO-SC+HS中擬基于重構(gòu)后的位置集合,運用和聲搜索策略隨機生成一個候選中心位置,以助于提升種群中心位置的更新幅度與頻次。

    需要指出的是,在算子Pop_SC_HS_X3中,果蠅種群規(guī)模Popsize的值即為參數(shù)HMS的取值;和聲記憶思考率HMCR∈(0,1),在多數(shù)HS算法中建議它選取接近于1的較大值;微調(diào)幅度BW由當前搜索半徑Ri(iter)所決定。此外,結(jié)合先期實驗結(jié)果,擬沿用文獻[25]中的方式動態(tài)設(shè)置參數(shù)PAR的值,即以PARmax和PARmin為上、下限,以(PARmax-PARmin)/Itermax為步長而逐代線性遞增。

    3.3 算法步驟

    步驟1對待優(yōu)化問題、控制參數(shù)進行初始化,并置迭代計數(shù)變量iter←1。其中,需初始化的參數(shù)包括Popsize、?、HMCR、PARmin、PARmax、Itermax。

    步驟2按式(2)對果蠅種群的中心位置進行初始化,得到位置向量Δ(0)。

    步驟3各個果蠅從種群中心位置Δ(iter-1)出發(fā),基于隨機確定的單維分量和動態(tài)搜索半徑按式(4)和式(5)進行嗅覺覓食搜索,得到位置集合Popiter。其中,搜索半徑Ri(iter)的值按式(6)確定。

    步驟4從位置集合Popiter中找出具備最佳味道濃度(目標函數(shù)值)的食物源位置,并將其作為備選的新種群中心位置,即。

    步驟5運用算子Pop_SC對集合Popiter進行群體協(xié)同式重構(gòu),得到新位置集合。

    步驟9置iter←iter+1。若iter≤Itermax,則轉(zhuǎn)回步驟3;否則,將Δ(Itermax)作為最終解輸出,結(jié)束。

    對于算法FFO-SC+HS的計算復雜性分析如下。步驟1對優(yōu)化問題和控制參數(shù)進行初始化,消耗常數(shù)時間O(1)。步驟2對種群中心位置進行初始化,消耗O(n)時間。步驟3~9重復執(zhí)行Itermax次。在每次迭代中,步驟3負責實施嗅覺覓食搜索,需耗用O(Popsize×n)時間;步驟4從集合Popiter中確定備選中心位置,需消耗O(Popsize)時間;步驟5、6和7的計算時間分別由算子Pop_SC、Pop_SC_X2和Pop_SC_HS_X3所決定;步驟8和9均耗用常數(shù)時間O(1)。算子Pop_SC的計算時間為O(Popsize×n),如算法1所示;算子Pop_SC_X2的計算時間為O(Popsize),如算法2所示;算子Pop_SC_HS_X3的計算時間為O(n),如算法3所示。綜上,算法FFO-SC+HS的總體時間復雜度可歸結(jié)為O(Itermax×Popsize×n)。

    4 實驗結(jié)果與分析

    4.1 計算實驗準備與相關(guān)描述

    為了考察、評估FFO-SC+HS算法在函數(shù)優(yōu)化問題求解上的有效性,本文選取10種無約束的最小化函數(shù)進行測試。這10種測試函數(shù)可區(qū)分為3類:單模態(tài)基準函數(shù) f1~f3;存在多個極值的多模態(tài)基準函數(shù) f4和 f5;對常見基準函數(shù)的決策變量進行偏移后而得到的變換型(Shifted)函數(shù) f6~f10。后5種函數(shù)出自“商務(wù)與企業(yè)計算(commerce and enterprise computing,CEC)”2010標準測試函數(shù)集[26]。經(jīng)變量偏移后,這些函數(shù)的最優(yōu)值點不再處于搜索空間的中央位置,而出現(xiàn)在邊界或若干狹小區(qū)域中,從而增加了最優(yōu)解的搜索難度。經(jīng)變換后的測試函數(shù)又有可分離(separable)與不可分離(non-separable)函數(shù)之分;通常,可分離函數(shù)優(yōu)化問題求解起來相對容易,完全不可分離函數(shù)最難優(yōu)化。測試函數(shù) f6~f10中,f6~f8為可分離函數(shù),而 f9和 f10為完全不可分離函數(shù)。對上述10種測試函數(shù)按模態(tài)類型劃分,f1~f3,f6~f7為單模態(tài)(unimodal)函數(shù);f4~f5,f8~f10屬于多模態(tài)(multimodal)函數(shù)。表1給出了10種測試函數(shù)的表達式、解搜索空間和各自的理論最優(yōu)值。

    整個計算實驗在處理器為Intel?CoreTMi3,主頻為2.53 GHz,內(nèi)存為2.0 GB,操作系統(tǒng)為Windows 7 SP1的PC機上進行。實驗中所涉及的各種果蠅優(yōu)化算法均采用Java語言編程實現(xiàn)。

    4.2 算法優(yōu)化性能比較與分析

    為驗證FFO-SC+HS算法在函數(shù)優(yōu)化質(zhì)量、收斂能力上的優(yōu)越性,擬在表1中的10種測試函數(shù)上對其進行性能對比分析。除了算法FFO-SC+HS外,參與優(yōu)化性能對比的果蠅優(yōu)化算法有標準FOA算法[2]、IFFO算法[15]、MFOA算法[3]和最近問世的IFOA算法[12]。5種果蠅優(yōu)化算法的迭代搜索過程都涉及最大迭代次數(shù)Itermax的設(shè)置??紤]到實驗比較條件的公平性和對于解搜索空間維度的依賴性,結(jié)合先期計算實驗結(jié)果,規(guī)定各果蠅優(yōu)化算法的最大迭代次數(shù)統(tǒng)一取Itermax=2n×103。此外,參考現(xiàn)有文獻中的相關(guān)做法,5種果蠅優(yōu)化算法在該性能對比實驗中的其他參數(shù)設(shè)置詳情如下:(1)對于果蠅種群規(guī)模,在算法FOA、IFFO和FFO-SC+HS中均取Popsize=10,在算法MFOA中取Popsize=30,而在算法IFOA中取Popsize=50;(2)算法IFFO中搜索半徑最小值λmin= 10-5,搜索半徑最大值λmax=(UB-LB)/2,其中UB和LB分別為算法搜索范圍中各維度上的上限、下限值;(3)在算法MFOA中,子群體的數(shù)目M=5,指數(shù)參數(shù)?=6;(4)算法IFOA中,對擾動放大因子取w=0.3,定位區(qū)間LR=[LB,UB],隨機飛行的方向與距離區(qū)域FR=[(LB-UB)/1 000,(UB-LB)/1 000];(5)在算法FFOSC+HS中,取和聲記憶思考率HMCR=0.95,音調(diào)微調(diào)率最小值PARmin=0.01,音調(diào)微調(diào)率最大值PARmax= 0.99,指數(shù)參數(shù)?=6。

    Table 1 10 test functions and their searching spaces and theoretical optima表1 10種測試函數(shù)及其搜索空間、理論最優(yōu)值

    該優(yōu)化性能對比實驗中,參與對比的果蠅優(yōu)化算法candiFOA∈{FOA,IFFO,MFOA,IFOA,FFO-SC+HS}跟測試函數(shù) fk(k∈{1,2,…,10})聯(lián)合確定一個實驗單元。統(tǒng)一取110種測試函數(shù)的維數(shù)n=50,由此,Itermax=105。在實驗單元(candiFOA,fk)中,算法candi-FOA對測試函數(shù) fk獨立優(yōu)化25次,每次獨立優(yōu)化后,記下當前所得解向量的目標函數(shù)值和優(yōu)化過程所耗用的時間。表2給出了各實驗單元中對于所得目標函數(shù)值的統(tǒng)計結(jié)果。其中,mean、±SD與best分別表示25次解搜索過程所得目標值數(shù)據(jù)的平均值、標準差和最好值;對于各測試函數(shù)上每項統(tǒng)計指標的最佳結(jié)果,均以粗體標示。

    Table 2 Computational results of 5 fruit fly optimization algorithms over test functionsf1~f10表2 5種果蠅優(yōu)化算法對測試函數(shù) f1~f10的優(yōu)化統(tǒng)計結(jié)果

    由表2可以看出,針對所統(tǒng)計的10×3=30項指標結(jié)果,F(xiàn)FO-SC+HS算法在27項指標上的統(tǒng)計結(jié)果優(yōu)于其他4種果蠅優(yōu)化算法;與之相比,標準FOA、IFFO、MFOA和IFOA算法分別僅在0、2、1、0項指標上的統(tǒng)計結(jié)果采用加粗標示,由此顯示出算法FFOSC+HS對不同類型的無約束連續(xù)函數(shù)在求解精度、求解魯棒性上的相對優(yōu)越性。對于單模態(tài)函數(shù) f1、f7和 f3,F(xiàn)FO-SC+HS算法在求解質(zhì)量上的比較優(yōu)勢尤為顯著。具體地,在指標mean上,次好果蠅優(yōu)化算法的統(tǒng)計結(jié)果分別為FFO-SC+HS算法對應(yīng)結(jié)果的1.429E+15、4.744E+14和9.804E+08倍。對于變換型函數(shù) f6和 f8,算法FFO-SC+HS能穩(wěn)健地搜索到理論最優(yōu)值0,展現(xiàn)出了能有效優(yōu)化更高維度函數(shù) f6或 f8的潛力。雖然在函數(shù) f10的指標mean上,算法FFOSC+HS遜色于IFFO算法,但二者相差不大(數(shù)量級一致),且在指標min上它們也有相近的結(jié)果。

    Fig.1 Convergence curves of 5 FOAs on functionf1圖1 5種果蠅優(yōu)化算法在函數(shù) f1上的收斂曲線

    Fig.2 Convergence curves of 5 FOAs on functionf3圖2 5種果蠅優(yōu)化算法在函數(shù) f3上的收斂曲線

    Fig.3 Convergence curves of 5 FOAs on functionf4圖3 5種果蠅優(yōu)化算法在函數(shù) f4上的收斂曲線

    Fig.4 Convergence curves of 5 FOAs on functionf5圖4 5種果蠅優(yōu)化算法在函數(shù) f5上的收斂曲線

    Fig.5 Convergence curves of 5 FOAs on function f7圖5 5種果蠅優(yōu)化算法在函數(shù)f7上的收斂曲線

    Fig.6 Convergence curves of 5 FOAs on function f8圖6 5種果蠅優(yōu)化算法在函數(shù)f8上的收斂曲線

    為對比分析FFO-SC+HS算法在迭代收斂性上的表現(xiàn),根據(jù)5種果蠅優(yōu)化算法對部分測試函數(shù)(D= 50)獨立優(yōu)化25次的平均目標值變化趨勢繪制了收斂曲線對比圖,如圖1~圖6所示。對于函數(shù) f1、f3和f4,算法FFO-SC+HS在優(yōu)化搜索的前期、中期未表現(xiàn)出相對更快的收斂速度;然而,迭代次數(shù)超過90 000次以后,它開始加速收斂,收斂速度明顯超過之前快于它的IFFO算法,并最終實現(xiàn)了更佳的收斂精度,詳見圖1~圖3?!跋嚷罂臁钡氖諗口厔菀渤霈F(xiàn)在算法FFO-SC+HS對函數(shù) f7和 f8的迭代優(yōu)化過程中。如圖5所示,算法FFO-SC+HS的收斂速度在優(yōu)化搜索早期不及標準FOA算法,到搜索中期又遜于IFFO算法,直到迭代次數(shù)達到80 000次后才表現(xiàn)出顯著更快的收斂速度。對于函數(shù) f8,F(xiàn)FO-SC+HS算法能通過95 000次迭代穩(wěn)定地搜索到理論最優(yōu)解。這一突出表現(xiàn)完全要歸功于75 000次迭代后的“瀑布式”快速收斂階段,詳見圖6。對于FFO-SC+HS算法在函數(shù)優(yōu)化中的“慢熱”收斂趨勢,究其原因,可歸于它在迭代搜索的后期表現(xiàn)出了相對更強的擺脫局部極優(yōu)的能力。Pop_SC_HS_X3算子中逐代線性遞增的參數(shù)PAR取值是導致迭代后期脫離局部極優(yōu)能力增強的主要原因。事實上,在和聲搜索算法中,當參數(shù)HMCR取接近于1的較大值時,音調(diào)微調(diào)率PAR就成了調(diào)節(jié)全局搜索能力的重要參數(shù);PAR的值越接近于1,對于即興生成的新和聲解而言,它擺脫局部極優(yōu)的概率就越大。此外,對于函數(shù) f5,算法FFO-SC+ HS表現(xiàn)出比其他4種果蠅優(yōu)化算法更好的收斂能力;當?shù)螖?shù)達到約32 000次時,它沒繼續(xù)保持平穩(wěn)趨勢,而是從局部極值中有效脫離,顯示出相對更好的全局搜索能力和收斂精度,詳見圖4。

    相比于標準的果蠅優(yōu)化算法,F(xiàn)FO-SC+HS算法在其視覺覓食搜索階段額外增加了對于算子Pop_ SC、Pop_SC_X2和Pop_SC_HS_X3的計算時間開銷。這3個算子的計算時間復雜度分別為O(Popsize×n)、O(Popsize)和O(n)。不難看出,算法FFO-SC+HS相對于標準果蠅優(yōu)化算法的額外時間開銷跟果蠅種群規(guī)模Popsize和待優(yōu)化問題的求解空間維數(shù)n成正比;當果蠅種群規(guī)模較大或者待優(yōu)化問題的求解空間維數(shù)較高時,算法FFO-SC+HS在計算時間開銷上會明顯超過標準的果蠅優(yōu)化算法。通過對性能對比實驗中每次函數(shù)優(yōu)化所耗用的計算時間數(shù)據(jù)進行統(tǒng)計分析,可以發(fā)現(xiàn)算法FFO-SC+HS在10種測試函數(shù)上的總體平均計算時間約為標準果蠅優(yōu)化算法的1.83倍(兩算法中均取Popsize=10),甚至在函數(shù) f6上FFOSC+HS算法與標準果蠅優(yōu)化算法之間的計算耗時比竟高達7.60。然而,算法FFO-SC+HS的額外計算時間開銷并非徒勞,隨之換來的是比標準果蠅優(yōu)化算法顯著更優(yōu)的優(yōu)化精度和收斂穩(wěn)定性,詳見表2中的相關(guān)統(tǒng)計結(jié)果。

    跟其他果蠅優(yōu)化改進算法相比,算法FFO-SC+ HS在計算時間開銷上雖未表現(xiàn)出全方位的比較優(yōu)勢,但也具備一定的競爭性。表3給出了算法IFOA和FFO-SC+HS在相應(yīng)實驗單元中針對平均、最少耗用時間的統(tǒng)計結(jié)果。表中結(jié)果顯示,F(xiàn)FO-SC+HS算法在10種測試函數(shù)上的總體平均計算時間僅為標準果蠅優(yōu)化算法的0.563倍,并且在9種測試函數(shù)上的平均計算時間都少于標準果蠅優(yōu)化算法,在8種測試函數(shù)上的最小計算時間比較中均占優(yōu)。由此,另鑒于它在函數(shù)優(yōu)化質(zhì)量上的相對優(yōu)越性(詳見表2),可認定FFO-SC+HS算法具備比IFOA算法更高的函數(shù)優(yōu)化效率。

    4.3 參數(shù)對優(yōu)化性能的影響分析

    本節(jié)擬以函數(shù) f1、f4、f6和 f9為實驗對象,力求通過探析參數(shù)組合(Popsize,HMCR,?)的不同取值下FFO-SC+HS算法的優(yōu)化表現(xiàn),進而得到有價值的參數(shù)取值建議。在該參數(shù)影響分析實驗中,測試函數(shù) fk(k∈{1,4,6,9})以及參數(shù)Popsize、HMCR和?的特定取值聯(lián)合確定一個實驗單元。對于各測試函數(shù)的維度,統(tǒng)一取n=100。對于果蠅種群規(guī)模參數(shù)Popsize,所考慮的水平值分別為10,20,30,40和50。鑒于多數(shù)HS算法都推薦參數(shù)HMCR取接近于1的較大值,在此設(shè)置HMCR∈{0.85,0.90,0.95,0.99}。結(jié)合前期實驗中對指數(shù)參數(shù)?的取值建議,取?∈{10,15,20}。綜上,該參數(shù)影響分析實驗總共由4×5×4×3=240個實驗單元組成。在每個實驗單元(fk,Popsize,HMCR,?)中,F(xiàn)FO-SC+HS算法對測試函數(shù) fk獨立優(yōu)化30次,以最大函數(shù)評價數(shù)目Max_FEs=3.0×106為每次獨立優(yōu)化的迭代終止條件。每次獨立優(yōu)化過程中,一旦當前所得解向量的目標值達到指定閾值VTR=10-10,則記下已完成的解向量函數(shù)評價數(shù)目FEs。根據(jù)文獻[26]中的建議,若函數(shù)評價次數(shù)未超過3.0×106,則認為該次獨立優(yōu)化是“成功”的,并據(jù)此算出該實驗單元所對應(yīng)的優(yōu)化成功率(success rate,SR),即:

    Table 3 Comparison in computational time of IFOA and FFO-SC+HS over functions f1~f10表3 IFOA和FFO-SC+HS在函數(shù)f1~f10上的計算時間對比

    其中,對于第i次獨立優(yōu)化過程,如果FEsi≤3.0×106,則isSuccessi=1;否則,isSuccessi=0。假設(shè)為當前實驗單元中全部成功獨立優(yōu)化對于函數(shù)評價數(shù)目FEs的算術(shù)平均值。由此,取期望函數(shù)評價比(expected function evaluations ratio,EFER)為該參數(shù)影響分析實驗的響應(yīng)指標,計算方式如下:

    實驗單元(fk,Popsize,HMCR,?)對應(yīng)的EFER值越小,說明FFO-SC+HS算法在該參數(shù)組合下對函數(shù)fk的優(yōu)化性能越佳。圖7給出了4種測試函數(shù)各自所對應(yīng)60個實驗單元在指標EFER上的統(tǒng)計結(jié)果。

    通過觀察圖7可看出,參數(shù)組合(Popsize,HMCR, ?)的不同取值對FFO-SC+HS算法的函數(shù)優(yōu)化表現(xiàn)具有顯著影響,并且?是最主要的影響參數(shù)。當指數(shù)參數(shù)?=15時,無論另兩個參數(shù)取何值,F(xiàn)FO-SC+HS算法在指標EFER的表現(xiàn)上都比?=10,?=20下的FFO-SC+HS算法明顯更優(yōu)。若不考慮參數(shù)?,隨著20種參數(shù)組合(Popsize,HMCR)的變化,算法FFO-SC+ HS在指標EFER上的表現(xiàn)相對穩(wěn)定,并無大幅波動;只是在組合(30,0.90)和(40,0.95)下表現(xiàn)出一定的下降趨勢。相比而言,組合(30,0.90)下的FFO-SC+ HS算法在整體優(yōu)化性能上略優(yōu)于組合(40,0.95)。綜上,算法FFO-SC+HS在函數(shù)優(yōu)化中對參數(shù)組合(Popsize,HMCR,?)的建議取值為(30,0.90,15)。

    4.4 兩種融合策略對優(yōu)化性能的影響分析

    為了考察算法FFO-SC+HS中群體協(xié)同與和聲搜索策略分別對優(yōu)化性能提高的貢獻,本節(jié)擬以函數(shù)f1、f4、f6、f8和 f9為實驗對象,針對單一混合群體協(xié)同策略的FFO-SC算法、單一混合和聲搜索策略的FFO-HS算法以及FFO-SC+HS算法進行優(yōu)化性能對比實驗與分析。需要注意的是,相比于FFO-SC+HS算法,算法FFO-SC中缺少算子Pop_SC_HS_X3;而算法FFO-HS中則不含算子Pop_SC和Pop_SC_X2,在算子Pop_SC_HS_X3運行時,不再用重構(gòu)后的食物源位置集合PopSC作為和聲記憶庫,取而代之的是在嗅覺覓食搜索階段形成的位置集合Pop。在該策略影響分析實驗中,算法candiFOA∈{FFO-SC,FFOHS,FFO-SC+HS}與測試函數(shù) fk(k∈{1,4,6,8,9})聯(lián)合確定一個實驗單元。具體地,對于各測試函數(shù)的維度,統(tǒng)一取n=150;算法FFO-SC中不含Pop_SC_ HS_X3算子,無需考慮參數(shù)HMCR的取值;參數(shù)HMCR在算法FFO-HS和算法FFO-SC+HS中均取建議值0.90;此外,在3種對比算法中,參數(shù)Popsize和?均取建議值30和15。在實驗單元(candiFOA,fk)中,算法candiFOA對函數(shù)fk獨立優(yōu)化30次;以最大函數(shù)評價數(shù)目Max_FEs=4×106為每次獨立優(yōu)化的迭代終止條件;每次獨立優(yōu)化過程中一旦發(fā)現(xiàn)搜索到的解向量目標值已達到指定閾值VTR=10-6,則記下已完成的解向量函數(shù)評價數(shù)目FEs;若函數(shù)評價次數(shù)已達到4×106次,而搜索到的解向量目標值仍大于指定閾值10-6,則認定本次獨立優(yōu)化“不成功”。整個策略影響分析實驗由3×5=15個實驗單元組成;對于每個實驗單元,按式(8)統(tǒng)計出它所對應(yīng)的EFER指標值。圖8給出了FFO-SC、FFO-HS和FFO-SC+HS算法在指標EFER上各自對5種測試函數(shù)的統(tǒng)計結(jié)果。

    Fig.7 Performances in terms of EFER changing with different combinations(Popsize,HMCR,?)on 4 test functions圖7 4種測試函數(shù)上指標EFER的表現(xiàn)隨不同參數(shù)組合(Popsize,HMCR,?)的變化情況

    Fig.8 Results in terms of EFER for FFO-SC,FFO-HS and FFO-SC+HS algorithms on 5 test functions圖8 算法FFO-SC、FFO-HS和FFO-SC+HS在5種測試函數(shù)上對指標EFER的統(tǒng)計結(jié)果

    由圖8不難看出,算法FFO-SC和FFO-HS在全部5種測試函數(shù)的EFER指標表現(xiàn)上均明顯遜色于本文提出的FFO-SC+HS算法。具體統(tǒng)計數(shù)字顯示,F(xiàn)FO-SC+HS算法在5種測試函數(shù)的總體EFER指標表現(xiàn)上分別比算法FFO-SC和FFO-HS提高了35.80%和32.25%??梢?,無論群體協(xié)同還是和聲搜索策略都是算法FFO-SC+HS實現(xiàn)其較高優(yōu)化性能的有效途徑,缺一不可。另外,在算法FFO-SC和FFO-HS之間作比較,可發(fā)現(xiàn)算法FFO-HS在5種測試函數(shù)上的EFER指標值都略優(yōu)于FFO-SC,由此反映出和聲搜索策略在算法FFO-SC+HS中的優(yōu)化性能改進貢獻相對更大。

    5 結(jié)束語

    通過在每輪迭代中對嗅覺覓食與視覺覓食環(huán)節(jié)進行同時改進,本文設(shè)計出一種融合群體協(xié)同與和聲搜索策略的FFO-SC+HS算法。本文算法的特點主要體現(xiàn)在三方面:一是在嗅覺覓食環(huán)節(jié)中基于隨機確定的單一維度和動態(tài)搜索半徑生成果蠅個體的食物源位置;二是為了擴展種群中心位置的擇優(yōu)選取范圍,運用群體協(xié)同機制對果蠅的位置集合進行自適應(yīng)重構(gòu);三是面向重構(gòu)后的位置集合,運用和聲搜索策略生成候選的種群中心位置。針對算法FFOSC+HS在10種測試函數(shù)上展開計算實驗;與4種已有的果蠅優(yōu)化算法進行對比,結(jié)果顯示FFO-SC+HS算法在整體優(yōu)化質(zhì)量、魯棒性、收斂能力上都具備相對優(yōu)越性。此外,還考察了60種參數(shù)組合(Popsize, HMCR,?)的不同取值以及兩種融合策略對于FFOSC+HS算法優(yōu)化性能的影響。通過分析相關(guān)實驗結(jié)果發(fā)現(xiàn):在組合(30,0.90,15)下,算法FFO-SC+HS表現(xiàn)出相對更佳的優(yōu)化性能;無論群體協(xié)同還是和聲搜索策略均對FFO-SC+HS算法的改進具有顯著貢獻。在后續(xù)研究中,一方面應(yīng)著力從理論上揭示FFO-SC+HS算法的收斂性與有效性,并分析參數(shù)選取對算法的收斂性影響;另一方面,F(xiàn)FO-SC+HS算法在高維有約束連續(xù)優(yōu)化、困難組合優(yōu)化、多目標優(yōu)化等問題中的應(yīng)用研究需要受到重視。

    [1]Pan W T.Fruit fly optimization algorithm[M].Taipei,China: Tsang Hai Book Publishing Co,2011:10-12.

    [2]Pan W T.A new fruit fly optimization algorithm:taking the financial distress model as an example[J].Knowledge-Based Systems,2012,26:69-74.

    [3]Yuan Xiaofang,Dai Xiangshan,Zhao Jingyi,et al.On a novel multi-swarm fruit fly optimization algorithm and its application[J].Applied Mathematics and Computation,2014, 233:260-271.

    [4]Yuan Xiaofang,Liu Yuanming,Xiang Yongzhong,et al.Parameter identification of BIPT system using chaotic-enhanced fruit fly optimization algorithm[J].Applied Mathematics and Computation,2015,268:1267-1281.

    [5]Wang Sheng,Yan Bao.Fruit fly optimization algorithm based fractional order fuzzy-PID controller for electronic throttle[J]. Nonlinear Dynamics,2013,73(1):611-619.

    [6]Li Hongze,Guo Sen,Li Chunjie,et al.A hybrid annual power load forecasting model based on generalized regression neural network with fruit fly optimization algorithm[J].Knowledge-Based Systems,2013,37:378-387.

    [7]Mousavi S M,Alikar N,Niaki S TA,et al.Optimizing a location allocation-inventory problem in a two-echelon supply chain network:a modified fruit fly optimization algorithm[J]. Computers and Industrial Engineering,2015,87:543-560.

    [8]Li Junqing,Pan Quanke,Mao Kun.A hybrid fruit fly optimization algorithm for the realistic hybrid flowshop rescheduling problem in steelmaking systems[J].IEEE Transactions on Automation Science and Engineering,2016,13(2): 932-949.

    [9]Wang Ling,Zheng Xiaolong,Wang Shengyao.A novel binary fruit fly optimization algorithm for solving the multidimensional knapsack problem[J].Knowledge-Based Systems, 2013,48:17-23.

    [10]Zheng Xiaolong,Wang Ling,Wang Shengyao.A hybrid discrete fruit fly optimization algorithm for solving permutation flow-shop scheduling problem[J].Control Theory and Applications,2014,31(2):159-164.

    [11]Zheng Xiaolong,Wang Ling.An order-based fruit fly optimization algorithm for stochastic resource-constrained project scheduling[J].Control Theory and Applications,2015, 32(4):540-545.

    [12]Wang Lin,Shi Yuanlong,Liu Shan.An improved fruit fly optimization algorithm and its application to joint replenishment problems[J].Expert Systems with Applications,2015, 42(9):4310-4323.

    [13]Shan Dan,Cao Guohua,Dong Hongjiang.LGMS-FOA:an improved fruit fly optimization algorithm for solving optimization problems[J].Mathematical Problems in Engineering, 2013,Article ID:108768.

    [14]Han Junying,Liu Chengzhong.Fruit fly optimization algorithm based on history cognition[J].Journal of Frontiers of Computer Science and Technology,2014,8(3):368-375.

    [15]Pan Quanke,Sang Hongyan,Duan Junhua,et al.An improved fruit fly optimization algorithm for continuous function optimization problems[J].Knowledge-Based Systems, 2014,62:69-83.

    [16]Han Junying,Liu Chengzhong.Fruit fly optimization algorithm based on bacterial chemotaxis[J].Journal of Computer Applications,2013,33(4):964-966.

    [17]Han Junying,Liu Chengzhong.Adaptive chaos fruit fly optimization algorithm[J].Journal of Computer Applications, 2013,33(5):1313-1316.

    [18]Han Junying,Liu Chengzhong.Efficient fruit fly optimization algorithm with reverse cognition[J].Computer Engineering,2013,39(11):223-225.

    [19]Han Junying,Liu Chengzhong,Wang Lianguo.Dynamic double subgroups cooperative fruit fly optimization algorithm[J].Pattern Recognition and Artificial Intelligence, 2013,26(11):1057-1067.

    [20]Geem Z W,Kim J H,Loganathan G V.A new heuristic optimization algorithm:harmony search[J].Simulation,2001, 76(2):60-68.

    [21]Diao Ren,Shen Qiang.Feature selection with harmony search[J].IEEE Transactions on Systems,Man,and Cybernetics:Part B,2012,42(6):1509-1523.

    [22]Murren P,Khandelwal K.Design-driven harmony search (DDHS)in steel frame optimization[J].Engineering Structures,2014,59:798-808.

    [23]Maleki A,Pourfayaz F.Sizing of stand-alone photovoltaic/ wind/diesel system with battery and fuel cell storage devices by harmony search algorithm[J].Journal of Energy Storage,2015,2:30-42.

    [24]Li Yazhi,Li Xiaoping,Gupta J N D.Solving the multiobjective flowline manufacturing cell scheduling problem by hybrid harmony search[J].Expert Systems with Applications,2015,42(3):1409-1417.

    [25]Yadav P,Rajesh K,Panda S K,et al.An intelligent tuned harmony search algorithm for optimization[J].Information Sciences,2012,196:42-72.

    [26]Tang Ke,Li Xiaodong,Suganthan P N,et al.Benchmark functions for the CEC?2010 special session and competition on large-scale global optimization[R].Hefei:Nature Inspired Computation andApplications Laboratory,USTC,2009.

    附中文參考文獻:

    [1]潘文超.果蠅最佳化演算法[M].中國臺北:滄海書局, 2011:10-12.

    [10]鄭曉龍,王凌,王圣堯.求解置換流水線調(diào)度問題的混合離散果蠅算法[J].控制理論與應(yīng)用,2014,31(2):159-164.

    [11]鄭曉龍,王凌.隨機資源約束項目調(diào)度問題基于序的果蠅算法[J].控制理論與應(yīng)用,2015,32(4):540-545.

    [14]韓俊英,劉成忠.基于歷史認知的果蠅優(yōu)化算法[J].計算機科學與探索,2014,8(3):368-375.

    [16]韓俊英,劉成忠.基于細菌趨化的果蠅優(yōu)化算法[J].計算機應(yīng)用,2013,33(4):964-966.

    [17]韓俊英,劉成忠.自適應(yīng)混沌果蠅優(yōu)化算法[J].計算機應(yīng)用,2013,33(5):1313-1316.

    [18]韓俊英,劉成忠.反向認知的高效果蠅優(yōu)化算法[J].計算機工程,2013,39(11):223-225.

    [19]韓俊英,劉成忠,王聯(lián)國.動態(tài)雙子群協(xié)同進化果蠅優(yōu)化算法[J].模式識別與人工智能,2013,26(11):1057-1067.

    LIU Le was born in 1984.He received the Ph.D.degree in management science and engineering from Beihang University in 2013.Now he is a lecturer at University of Jinan.His research interests include intelligent optimization algorithms,production scheduling and rescheduling,etc.

    劉樂(1984—),男,山東濟南人,2013年于北京航空航天大學獲得管理學博士學位,現(xiàn)為濟南大學管理學院講師,主要研究領(lǐng)域為智能優(yōu)化算法,生產(chǎn)調(diào)度與重調(diào)度優(yōu)化等。已發(fā)表學術(shù)論文10余篇,目前主持國家自然科學青年基金項目、教育部人文社科研究青年基金項目以及山東省優(yōu)秀中青年科學家科研獎勵基金項目等。

    Fruit Fly Optimization Algorithm by Combining Strategies of Swarm Collaboration and Harmony Search?

    LIU Le+
    School of Management,University of Jinan,Jinan 250002,China
    +Corresponding author:E-mail:sm_liul@ujn.edu.cn

    To deal with the drawbacks of trapping in local optimal solutions easily and low convergence accuracy of the standard fruit fly optimization(FFO)algorithm,this paper proposes a novel fruit fly optimization algorithm by combining the swarm collaboration(SC)and harmony search(HS)strategies,named as FFO-SC+HS.In each iteration of FFO-SC+HS,the food source location of each fruit fly is generated based on a single dimension that is randomly determined and dynamic search radius,and two candidate location vectors derived from the reconstructed location set by SC strategy are considered during the update process of fruit fly swarm location.Further,one candidate location is the best one of the reconstructed location set,and the other one is obtained by means of HS strategy.Extensive computational experiments and comparison analysis are conducted upon 10 benchmark functions to validate the effectiveness of FFO-SC+HS.As demonstrated in the results,FFO-SC+HS outperforms other 4 reported FFO algorithms in terms of solution quality and convergence efficiency.Moreover,it is found that different combinations of three main parametershave a significant impact on optimization performances of FFO-SC+HS,and both of the SC and HS strategies are indispensable.

    fruit fly optimization;swarm collaboration;harmony search;function optimization

    10.3778/j.issn.1673-9418.1510034

    A

    TP301.6

    *The National Natural Science Foundation of China under Grant No.71501083(國家自然科學基金);the Youth Foundation of Humanities and Social Science Research of Ministry of Education of China under Grant No.14YJCZH098(教育部人文社會科學研究青年基金);the Promotive Research Foundation for Outstanding Young and Middle-Aged Scientists of Shandong Province under Grant No.BS2015ZZ002(山東省優(yōu)秀中青年科學家科研獎勵基金);the Research Foundation of University of Jinan under Grant No. XKY1322(濟南大學科研基金).

    Received 2015-10,Accepted 2015-12.

    CNKI網(wǎng)絡(luò)優(yōu)先出版:2015-12-16,http://www.cnki.net/kcms/detail/11.5602.TP.20151216.1021.004.html

    猜你喜歡
    測試函數(shù)果蠅種群
    邢氏水蕨成功繁衍并建立種群 等
    果蠅也會“觸景傷身”
    小果蠅大貢獻
    山西省發(fā)現(xiàn)刺五加種群分布
    果蠅遇到危險時會心跳加速
    小果蠅助力治療孤獨癥
    具有收縮因子的自適應(yīng)鴿群算法用于函數(shù)優(yōu)化問題
    帶勢函數(shù)的雙調(diào)和不等式組的整體解的不存在性
    約束二進制二次規(guī)劃測試函數(shù)的一個構(gòu)造方法
    面向真實世界的測試函數(shù)Ⅱ
    国产男女内射视频| 成人国产一区最新在线观看 | 丝袜脚勾引网站| 人人澡人人妻人| 亚洲av电影在线观看一区二区三区| 午夜老司机福利片| 纵有疾风起免费观看全集完整版| 天天添夜夜摸| 国产精品九九99| 亚洲第一青青草原| 91麻豆精品激情在线观看国产 | 久久热在线av| av片东京热男人的天堂| 国产国语露脸激情在线看| a级毛片在线看网站| 欧美精品一区二区大全| 黑丝袜美女国产一区| 大香蕉久久网| 精品久久久久久久毛片微露脸 | 天天躁夜夜躁狠狠躁躁| 午夜视频精品福利| 午夜视频精品福利| 成年av动漫网址| 在线亚洲精品国产二区图片欧美| 超碰97精品在线观看| 国产精品久久久久久精品电影小说| 热re99久久国产66热| 久久人人爽av亚洲精品天堂| 久久久精品94久久精品| 夫妻午夜视频| 首页视频小说图片口味搜索 | 婷婷色av中文字幕| 精品国产超薄肉色丝袜足j| 亚洲欧美激情在线| 免费看av在线观看网站| 一区二区三区激情视频| 美女国产高潮福利片在线看| 不卡av一区二区三区| 欧美精品啪啪一区二区三区 | 少妇的丰满在线观看| 中文欧美无线码| 国产精品一国产av| 99精品久久久久人妻精品| 日韩一卡2卡3卡4卡2021年| e午夜精品久久久久久久| 高清av免费在线| 高清av免费在线| 男女国产视频网站| 脱女人内裤的视频| 99久久99久久久精品蜜桃| 热99国产精品久久久久久7| 精品国产国语对白av| 一级a爱视频在线免费观看| 每晚都被弄得嗷嗷叫到高潮| 美女视频免费永久观看网站| 999久久久国产精品视频| 天天躁夜夜躁狠狠躁躁| 亚洲欧美色中文字幕在线| 久久天堂一区二区三区四区| 十八禁网站网址无遮挡| 香蕉丝袜av| 一级片免费观看大全| 日韩一本色道免费dvd| 久9热在线精品视频| 亚洲av男天堂| 久久ye,这里只有精品| 免费一级毛片在线播放高清视频 | 欧美成人精品欧美一级黄| 狠狠精品人妻久久久久久综合| 晚上一个人看的免费电影| 亚洲av在线观看美女高潮| 999久久久国产精品视频| 人人妻,人人澡人人爽秒播 | 亚洲,欧美精品.| www.av在线官网国产| 中文字幕人妻丝袜制服| 国产精品久久久久久人妻精品电影 | 国产熟女欧美一区二区| 国产免费福利视频在线观看| 日韩大码丰满熟妇| 又大又黄又爽视频免费| 熟女少妇亚洲综合色aaa.| 亚洲欧美日韩高清在线视频 | 欧美亚洲 丝袜 人妻 在线| 亚洲av成人精品一二三区| 国产成人系列免费观看| 欧美成狂野欧美在线观看| 国产欧美日韩综合在线一区二区| 亚洲av男天堂| 夫妻午夜视频| 黄色毛片三级朝国网站| 婷婷色综合www| 一二三四在线观看免费中文在| 免费在线观看影片大全网站 | 午夜福利一区二区在线看| 久久毛片免费看一区二区三区| 成年人免费黄色播放视频| 美女脱内裤让男人舔精品视频| 国产成人精品久久久久久| 永久免费av网站大全| 日韩大码丰满熟妇| 国产极品粉嫩免费观看在线| 精品久久蜜臀av无| 久久影院123| 亚洲国产最新在线播放| 成年人午夜在线观看视频| 亚洲精品在线美女| 少妇精品久久久久久久| 亚洲,欧美精品.| 叶爱在线成人免费视频播放| 国产伦人伦偷精品视频| 麻豆av在线久日| 两性夫妻黄色片| 午夜老司机福利片| 丰满人妻熟妇乱又伦精品不卡| 在线观看免费高清a一片| 一边摸一边抽搐一进一出视频| 天堂俺去俺来也www色官网| 久久久久久久国产电影| 精品亚洲成a人片在线观看| 久久天堂一区二区三区四区| 黄色视频不卡| 亚洲一码二码三码区别大吗| 欧美人与性动交α欧美精品济南到| 成人国语在线视频| 精品一区在线观看国产| 脱女人内裤的视频| 欧美日韩国产mv在线观看视频| 亚洲欧美一区二区三区久久| 9热在线视频观看99| 999精品在线视频| 嫩草影视91久久| 亚洲欧美色中文字幕在线| 国产91精品成人一区二区三区 | 亚洲情色 制服丝袜| 99国产精品一区二区三区| 狂野欧美激情性bbbbbb| 99久久人妻综合| 欧美97在线视频| 深夜精品福利| 天堂中文最新版在线下载| 十八禁人妻一区二区| 女警被强在线播放| 欧美中文综合在线视频| 少妇猛男粗大的猛烈进出视频| av不卡在线播放| 一二三四在线观看免费中文在| 欧美成人精品欧美一级黄| 在线观看免费视频网站a站| 男女床上黄色一级片免费看| 美女脱内裤让男人舔精品视频| 男女边摸边吃奶| 亚洲av男天堂| 久久久久久久久免费视频了| 亚洲精品国产av成人精品| 精品少妇一区二区三区视频日本电影| 天天躁夜夜躁狠狠躁躁| 久久久国产欧美日韩av| 国产三级黄色录像| 男女免费视频国产| 日本午夜av视频| 久久久国产一区二区| 亚洲 欧美一区二区三区| 精品少妇一区二区三区视频日本电影| 亚洲精品国产av蜜桃| 久久久国产欧美日韩av| 亚洲av美国av| 亚洲一码二码三码区别大吗| 亚洲人成电影免费在线| 可以免费在线观看a视频的电影网站| 亚洲欧美日韩高清在线视频 | 免费高清在线观看视频在线观看| 久久久国产一区二区| av国产久精品久网站免费入址| 性色av一级| 亚洲国产看品久久| 国产成人精品在线电影| 婷婷色麻豆天堂久久| 一级毛片 在线播放| 啦啦啦视频在线资源免费观看| 又紧又爽又黄一区二区| 一级片免费观看大全| 侵犯人妻中文字幕一二三四区| 国产亚洲一区二区精品| 亚洲第一av免费看| 国产成人精品在线电影| 亚洲天堂av无毛| 中文字幕最新亚洲高清| 老司机亚洲免费影院| 好男人电影高清在线观看| 男女床上黄色一级片免费看| 欧美在线一区亚洲| 亚洲成国产人片在线观看| 在线观看免费高清a一片| 国产亚洲一区二区精品| 久久久精品免费免费高清| 99国产综合亚洲精品| 久久99精品国语久久久| 国产激情久久老熟女| 高清欧美精品videossex| 中文字幕制服av| 亚洲第一青青草原| 一级,二级,三级黄色视频| 亚洲国产欧美在线一区| 91精品伊人久久大香线蕉| 亚洲精品中文字幕在线视频| 国产不卡av网站在线观看| 伊人亚洲综合成人网| 精品久久蜜臀av无| 9191精品国产免费久久| 韩国高清视频一区二区三区| 久热这里只有精品99| 国产精品一区二区在线观看99| 别揉我奶头~嗯~啊~动态视频 | 桃花免费在线播放| 午夜福利视频精品| 女人被躁到高潮嗷嗷叫费观| 午夜福利,免费看| 久久精品成人免费网站| 男女国产视频网站| 黄色视频在线播放观看不卡| 波多野结衣av一区二区av| 香蕉丝袜av| 人人妻人人澡人人看| 成年人免费黄色播放视频| 日本a在线网址| 亚洲伊人久久精品综合| 亚洲 欧美一区二区三区| 超碰97精品在线观看| 深夜精品福利| 欧美黑人欧美精品刺激| 97在线人人人人妻| 国产激情久久老熟女| 大型av网站在线播放| 久久久欧美国产精品| 日韩一区二区三区影片| svipshipincom国产片| 亚洲,一卡二卡三卡| 亚洲精品第二区| 精品一区二区三卡| 欧美精品人与动牲交sv欧美| 国产亚洲午夜精品一区二区久久| 亚洲欧美中文字幕日韩二区| 午夜免费观看性视频| 永久免费av网站大全| 多毛熟女@视频| 亚洲欧美一区二区三区国产| h视频一区二区三区| 国产成人精品久久久久久| 国产精品人妻久久久影院| 国产精品久久久久成人av| 韩国精品一区二区三区| 成人亚洲精品一区在线观看| 一区二区av电影网| 国产免费视频播放在线视频| 亚洲伊人色综图| 精品久久久久久久毛片微露脸 | 深夜精品福利| 成人手机av| 美女扒开内裤让男人捅视频| 欧美性长视频在线观看| 成年动漫av网址| 天堂中文最新版在线下载| 亚洲成国产人片在线观看| 亚洲中文日韩欧美视频| 国产爽快片一区二区三区| 国产三级黄色录像| 国产极品粉嫩免费观看在线| 一级毛片女人18水好多 | 1024视频免费在线观看| 亚洲欧洲日产国产| 侵犯人妻中文字幕一二三四区| 精品人妻在线不人妻| 欧美精品人与动牲交sv欧美| 夫妻午夜视频| av又黄又爽大尺度在线免费看| 五月开心婷婷网| 中文字幕人妻熟女乱码| 两人在一起打扑克的视频| 亚洲国产精品一区三区| 老司机在亚洲福利影院| 赤兔流量卡办理| 亚洲精品久久久久久婷婷小说| 精品一区二区三区av网在线观看 | 免费看不卡的av| 亚洲人成电影观看| av天堂久久9| 精品国产超薄肉色丝袜足j| 在线天堂中文资源库| 国产精品秋霞免费鲁丝片| 免费一级毛片在线播放高清视频 | 成人亚洲欧美一区二区av| 欧美日韩一级在线毛片| 国产av国产精品国产| 中文字幕制服av| videosex国产| 99热国产这里只有精品6| 中文字幕高清在线视频| 欧美av亚洲av综合av国产av| 老鸭窝网址在线观看| 国产激情久久老熟女| 亚洲精品在线美女| 大香蕉久久网| 最新在线观看一区二区三区 | avwww免费| 1024视频免费在线观看| 久久热在线av| 亚洲 国产 在线| 欧美日韩亚洲综合一区二区三区_| 男女高潮啪啪啪动态图| 精品国产超薄肉色丝袜足j| 国产亚洲欧美在线一区二区| 国产成人一区二区三区免费视频网站 | 一本—道久久a久久精品蜜桃钙片| 丝袜脚勾引网站| 深夜精品福利| 最黄视频免费看| av不卡在线播放| 欧美人与善性xxx| 国产国语露脸激情在线看| 国语对白做爰xxxⅹ性视频网站| 女人高潮潮喷娇喘18禁视频| 亚洲欧美一区二区三区黑人| 91老司机精品| 亚洲图色成人| 永久免费av网站大全| 亚洲成av片中文字幕在线观看| 欧美人与善性xxx| 日本vs欧美在线观看视频| 日本欧美国产在线视频| 久久精品aⅴ一区二区三区四区| 亚洲色图 男人天堂 中文字幕| 亚洲中文日韩欧美视频| 丝袜喷水一区| 欧美在线一区亚洲| 久久国产精品人妻蜜桃| 亚洲伊人色综图| 交换朋友夫妻互换小说| 在线观看国产h片| 久久久精品区二区三区| 在线天堂中文资源库| 两人在一起打扑克的视频| 美女国产高潮福利片在线看| 18禁国产床啪视频网站| 亚洲av成人精品一二三区| 亚洲午夜精品一区,二区,三区| 人妻一区二区av| 亚洲国产av影院在线观看| 女性被躁到高潮视频| 久久天堂一区二区三区四区| 久9热在线精品视频| 一区二区三区乱码不卡18| 成人午夜精彩视频在线观看| 青草久久国产| 一级毛片我不卡| 国产av一区二区精品久久| 男人操女人黄网站| 国产精品熟女久久久久浪| 午夜福利乱码中文字幕| 只有这里有精品99| 王馨瑶露胸无遮挡在线观看| 男人添女人高潮全过程视频| 如日韩欧美国产精品一区二区三区| 99九九在线精品视频| 熟女av电影| 亚洲人成电影免费在线| 日本欧美国产在线视频| a级片在线免费高清观看视频| 黄色片一级片一级黄色片| 欧美日韩精品网址| 99re6热这里在线精品视频| 久久久久久亚洲精品国产蜜桃av| 黄色视频在线播放观看不卡| 岛国毛片在线播放| 亚洲精品国产一区二区精华液| 国产爽快片一区二区三区| 天天操日日干夜夜撸| 真人做人爱边吃奶动态| 国产主播在线观看一区二区 | 欧美性长视频在线观看| 亚洲精品一二三| 国产麻豆69| 亚洲欧美精品综合一区二区三区| 在线天堂中文资源库| av网站在线播放免费| 精品国产超薄肉色丝袜足j| 最近中文字幕2019免费版| 国产亚洲午夜精品一区二区久久| av欧美777| 亚洲精品一卡2卡三卡4卡5卡 | 老司机在亚洲福利影院| 国产三级黄色录像| 欧美中文综合在线视频| 午夜视频精品福利| 男女免费视频国产| 亚洲欧美日韩高清在线视频 | 精品一区在线观看国产| 老熟女久久久| 色精品久久人妻99蜜桃| 精品国产国语对白av| 宅男免费午夜| 亚洲国产av影院在线观看| 亚洲五月色婷婷综合| 国产亚洲欧美在线一区二区| svipshipincom国产片| 好男人电影高清在线观看| 老鸭窝网址在线观看| 久久 成人 亚洲| 久久国产精品男人的天堂亚洲| 国产一区二区三区av在线| av不卡在线播放| 91精品三级在线观看| 国产成人av教育| 在线精品无人区一区二区三| 超色免费av| 2021少妇久久久久久久久久久| 1024视频免费在线观看| 90打野战视频偷拍视频| 亚洲精品日韩在线中文字幕| 九草在线视频观看| 热99久久久久精品小说推荐| 中国美女看黄片| 久久99热这里只频精品6学生| 亚洲精品一卡2卡三卡4卡5卡 | 在线观看免费午夜福利视频| 日本av免费视频播放| av在线app专区| av在线app专区| 亚洲国产日韩一区二区| 啦啦啦 在线观看视频| 国产伦理片在线播放av一区| 国产熟女欧美一区二区| 色精品久久人妻99蜜桃| 欧美人与性动交α欧美精品济南到| 在线观看免费午夜福利视频| 啦啦啦中文免费视频观看日本| 制服人妻中文乱码| 婷婷丁香在线五月| 免费日韩欧美在线观看| 国产欧美日韩一区二区三区在线| 性色av一级| 亚洲精品一二三| 如日韩欧美国产精品一区二区三区| 一级毛片女人18水好多 | 夫妻性生交免费视频一级片| 日韩人妻精品一区2区三区| 少妇人妻 视频| 啦啦啦中文免费视频观看日本| 亚洲第一av免费看| av福利片在线| 亚洲国产中文字幕在线视频| 一区二区三区乱码不卡18| 成人手机av| 啦啦啦在线免费观看视频4| 韩国精品一区二区三区| 精品少妇黑人巨大在线播放| 少妇人妻 视频| 国产片特级美女逼逼视频| kizo精华| 国产一区二区在线观看av| 欧美日韩av久久| 日韩,欧美,国产一区二区三区| 黄色片一级片一级黄色片| 精品少妇内射三级| 午夜精品国产一区二区电影| 美女脱内裤让男人舔精品视频| 夫妻午夜视频| 丝瓜视频免费看黄片| 国产成人精品无人区| 久久99热这里只频精品6学生| 亚洲少妇的诱惑av| 久久久亚洲精品成人影院| 一区二区三区四区激情视频| 久久久国产欧美日韩av| 国产精品久久久久久人妻精品电影 | 精品少妇黑人巨大在线播放| 成年人黄色毛片网站| 亚洲 欧美一区二区三区| 久久久久久人人人人人| www.av在线官网国产| 国产国语露脸激情在线看| 美女福利国产在线| 男人舔女人的私密视频| 久久久国产精品麻豆| 色婷婷av一区二区三区视频| 老司机亚洲免费影院| 晚上一个人看的免费电影| 一本一本久久a久久精品综合妖精| 中文字幕另类日韩欧美亚洲嫩草| 久久久精品国产亚洲av高清涩受| 久久久久精品国产欧美久久久 | 赤兔流量卡办理| 国产伦人伦偷精品视频| 欧美日韩福利视频一区二区| 欧美国产精品一级二级三级| 啦啦啦在线免费观看视频4| 秋霞在线观看毛片| 亚洲av在线观看美女高潮| 日韩,欧美,国产一区二区三区| 中文字幕另类日韩欧美亚洲嫩草| 波多野结衣一区麻豆| 成人国产av品久久久| 国产欧美日韩一区二区三区在线| h视频一区二区三区| 免费在线观看完整版高清| 国产精品九九99| 观看av在线不卡| 国产一区亚洲一区在线观看| 国产视频首页在线观看| 在线观看免费高清a一片| 夜夜骑夜夜射夜夜干| 久久久精品区二区三区| 天天影视国产精品| 国产精品二区激情视频| 成人午夜精彩视频在线观看| 一二三四社区在线视频社区8| 国产成人精品久久久久久| 国产成人一区二区三区免费视频网站 | 色播在线永久视频| 97人妻天天添夜夜摸| 91成人精品电影| 精品一品国产午夜福利视频| 狠狠婷婷综合久久久久久88av| 亚洲国产av影院在线观看| 中文字幕最新亚洲高清| 曰老女人黄片| 两个人免费观看高清视频| 男女之事视频高清在线观看 | 国产欧美日韩综合在线一区二区| 久久久久网色| 老司机影院毛片| xxx大片免费视频| 悠悠久久av| 亚洲av国产av综合av卡| netflix在线观看网站| 另类亚洲欧美激情| 国产黄频视频在线观看| 精品少妇内射三级| 亚洲第一av免费看| 国产精品一国产av| 中文字幕精品免费在线观看视频| 亚洲第一av免费看| 黄色片一级片一级黄色片| 久久久久国产精品人妻一区二区| 午夜福利在线免费观看网站| av天堂久久9| 午夜福利视频在线观看免费| 18禁黄网站禁片午夜丰满| 日韩 亚洲 欧美在线| 午夜福利一区二区在线看| 国产精品亚洲av一区麻豆| 99热全是精品| 亚洲七黄色美女视频| 视频区图区小说| 国产精品久久久久成人av| 久久久欧美国产精品| 欧美成狂野欧美在线观看| 久久精品国产综合久久久| 美女脱内裤让男人舔精品视频| 亚洲欧美清纯卡通| 性色av乱码一区二区三区2| 一边摸一边抽搐一进一出视频| 国产福利在线免费观看视频| 中文乱码字字幕精品一区二区三区| 日韩熟女老妇一区二区性免费视频| 国产成人a∨麻豆精品| 狠狠婷婷综合久久久久久88av| a级毛片黄视频| 又大又爽又粗| 亚洲精品一卡2卡三卡4卡5卡 | 久久久久久免费高清国产稀缺| 国产色视频综合| 丰满饥渴人妻一区二区三| 又大又黄又爽视频免费| 新久久久久国产一级毛片| 亚洲综合色网址| 欧美变态另类bdsm刘玥| 久久影院123| 午夜免费男女啪啪视频观看| 精品第一国产精品| 亚洲人成网站在线观看播放| 啦啦啦在线观看免费高清www| 精品一品国产午夜福利视频| 黑人欧美特级aaaaaa片| 国产免费又黄又爽又色| 欧美大码av| 九草在线视频观看| 热re99久久国产66热| 国产成人精品久久久久久| 亚洲欧美精品综合一区二区三区| 国产黄色免费在线视频| 亚洲av片天天在线观看| 欧美日韩综合久久久久久| 99九九在线精品视频| 久久精品人人爽人人爽视色| 女人爽到高潮嗷嗷叫在线视频| 狠狠婷婷综合久久久久久88av| 亚洲午夜精品一区,二区,三区| 国产精品久久久久久人妻精品电影 | 午夜福利一区二区在线看| 国产精品一区二区免费欧美 | 99国产精品免费福利视频| 精品少妇久久久久久888优播| 亚洲精品一二三| 亚洲中文日韩欧美视频| 少妇裸体淫交视频免费看高清 | 日本欧美视频一区| 精品久久久久久电影网| 巨乳人妻的诱惑在线观看| 国产男女内射视频| 亚洲精品久久成人aⅴ小说| 久久久精品94久久精品| 人人妻人人爽人人添夜夜欢视频| 免费在线观看日本一区| videosex国产|