• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于對(duì)標(biāo)學(xué)習(xí)的智能優(yōu)化算法

    2018-07-23 08:09:02謝安世
    電信科學(xué) 2018年7期
    關(guān)鍵詞:編碼方案開(kāi)發(fā)性探索性

    謝安世

    ?

    基于對(duì)標(biāo)學(xué)習(xí)的智能優(yōu)化算法

    謝安世

    (浙江工業(yè)大學(xué),浙江 杭州 310014)

    科研、工程和管理中的很多問(wèn)題都可以轉(zhuǎn)化為優(yōu)化問(wèn)題。應(yīng)用于這些優(yōu)化問(wèn)題的各種方法本身就是各種模型,設(shè)計(jì)不同的方法即設(shè)計(jì)不同的模型。將標(biāo)桿管理理念建模成為一種用于單目標(biāo)優(yōu)化問(wèn)題的元啟發(fā)式搜索方法?;趭W卡姆剃刀原則,摒棄了復(fù)雜的操作算子的概率調(diào)優(yōu)規(guī)則,用一個(gè)簡(jiǎn)單的框架來(lái)組織核心算子,從而達(dá)到許多組合算法的搜索效果。

    智能優(yōu)化算法;探索性與開(kāi)發(fā)性;全局搜索與局部?jī)?yōu)化;標(biāo)桿管理

    1 引言

    元啟發(fā)式優(yōu)化/搜索算法的研究,從橫向看,可以分為算法自身設(shè)計(jì)研究(即設(shè)計(jì)不同的優(yōu)化搜索算法)、算法自身的理論研究(包括復(fù)雜度、收斂性等)和算法在各學(xué)科領(lǐng)域的具體應(yīng)用研究共3個(gè)方面。單從算法自身的設(shè)計(jì)看,大體可以分為兩個(gè)層次:一是對(duì)已有的算法進(jìn)行改進(jìn),主要體現(xiàn)在改良現(xiàn)有的(或設(shè)計(jì)出新的)操作算子及其概率規(guī)則;二是提出全新的算法。

    目前很多新提出的算法,基本上都由幾個(gè)廣泛使用的核心算子組成,它們的“新”,只是用一種別的“新”物種來(lái)命名常見(jiàn)的元啟發(fā)式搜索[1]。事實(shí)上有很多高被引算法都是一些經(jīng)典算法的翻版,只是名稱不同[2]。因?yàn)樽匀唤绗F(xiàn)象的多樣性,最近十幾年來(lái)有越來(lái)越多各種各樣的所謂新算法不斷地被提出,都喜歡使用各種隱喻,看起來(lái)好像挺熱鬧,但如果就科學(xué)的求真求實(shí)來(lái)講,真的有必要嗎[3]?同時(shí)由于各類隱喻的特殊性,在用于算法設(shè)計(jì)時(shí),只有某種特定的編碼方案才能很好地實(shí)現(xiàn)這種隱喻。換一種編碼方案,就不容易實(shí)現(xiàn)這種隱喻了,即算法的“智能性”也就大打折扣了。比如粒子群算法,由于其特定的候選解更新方案,用浮點(diǎn)數(shù)編碼,效果很好,用二進(jìn)制編碼、字符串編碼或者布爾型編碼,效果就不好。因此,這類算法的搜索效果很大程度上依賴于其核心操作算子的概率規(guī)則,在運(yùn)行過(guò)程中需要參數(shù)調(diào)優(yōu)才能平衡其搜索過(guò)程的探索性(exploration)與開(kāi)發(fā)性(exploitation),并借此保持搜索過(guò)程中的種群多樣性。

    本文也使用了隱喻手法,借用企業(yè)管理領(lǐng)域中的標(biāo)桿管理理念,將“見(jiàn)賢思齊”這一思想建模為一種通用的優(yōu)化/搜索框架。不限于某種特定的編碼方案,并且不需要特定的概率規(guī)則,只需將核心操作算子按本文給出的組織策略進(jìn)行組織安排,算法就可以平衡其搜索過(guò)程的探索性與開(kāi)發(fā)性,并保持搜索過(guò)程中的種群多樣性。因此說(shuō)本文提出的算法的“智能性”,沒(méi)有體現(xiàn)在操作算子的概率規(guī)則上,而是體現(xiàn)在操作算子的組織策略上。

    2 對(duì)標(biāo)學(xué)習(xí)算法的基本框架

    對(duì)標(biāo)管理,顧名思義,就是以知己知彼的方式,檢驗(yàn)自己并了解對(duì)手,從而知道自己與競(jìng)爭(zhēng)對(duì)手的差距,以便學(xué)習(xí)和改進(jìn)?;趯?duì)標(biāo)管理思想的優(yōu)化算法,其總體思路如下。

    在整個(gè)生態(tài)系統(tǒng)(即解空間)內(nèi),通過(guò)某種規(guī)則產(chǎn)生若干小生境種群(即初始解集),相當(dāng)于全球市場(chǎng)上各類企業(yè)主體,種群內(nèi)的個(gè)體相當(dāng)于企業(yè)部門(mén)或員工。首先根據(jù)優(yōu)化目的,以評(píng)價(jià)函數(shù)為衡量標(biāo)準(zhǔn),進(jìn)行立標(biāo)管理,分別確定各小生境種群內(nèi)的最佳個(gè)體(即局部最佳個(gè)體、局部最優(yōu)解)和整個(gè)生態(tài)系統(tǒng)內(nèi)的最佳個(gè)體(即全局最佳個(gè)體、全局最優(yōu)解),相當(dāng)于樹(shù)立企業(yè)內(nèi)部標(biāo)桿和企業(yè)外部標(biāo)桿,并記錄在案。種群內(nèi)的個(gè)體,按照對(duì)標(biāo)學(xué)習(xí)的指導(dǎo)原則進(jìn)行對(duì)標(biāo)學(xué)習(xí)。這一輪立標(biāo)管理與對(duì)標(biāo)學(xué)習(xí)完成之后,再次進(jìn)行評(píng)估,重新樹(shù)立標(biāo)桿,并更新記錄。然后開(kāi)始新一輪的對(duì)標(biāo)學(xué)習(xí),如此往復(fù),直至滿足迭代停止條件。此時(shí)的全局最佳個(gè)體,解碼之后便是全局最優(yōu)解,各局部最佳個(gè)體,解碼之后便是局部最優(yōu)解。由此可知,這是一種同時(shí)包含學(xué)習(xí)性競(jìng)爭(zhēng)與競(jìng)爭(zhēng)性學(xué)習(xí)的尋優(yōu)思想。

    2.1 對(duì)標(biāo)學(xué)習(xí)算法的簡(jiǎn)單版本

    簡(jiǎn)單對(duì)標(biāo)學(xué)習(xí)算法,主要是指全局標(biāo)桿由全程最優(yōu)個(gè)體擔(dān)任;局部標(biāo)桿由當(dāng)代最優(yōu)個(gè)體擔(dān)任;試探性學(xué)習(xí)策略分別嵌套在全局對(duì)標(biāo)學(xué)習(xí)和局部對(duì)標(biāo)學(xué)習(xí)兩個(gè)操作算子之內(nèi);全局對(duì)標(biāo)學(xué)習(xí)、局部對(duì)標(biāo)學(xué)習(xí)和自我學(xué)習(xí)3個(gè)基本操作算子的概率都取隨機(jī)數(shù)?;静襟E如下。

    步驟1 初始化種群和個(gè)體的數(shù)目,迭代停止條件等。

    步驟2 根據(jù)對(duì)標(biāo)管理的指導(dǎo)原則,評(píng)估所有個(gè)體的適應(yīng)度值,記錄并更新標(biāo)桿。

    步驟3 根據(jù)對(duì)標(biāo)學(xué)習(xí)的具體方法,個(gè)體有選擇地執(zhí)行對(duì)標(biāo)學(xué)習(xí)。

    步驟4 若迭代停止條件不滿足,轉(zhuǎn)向步驟2,否則輸出標(biāo)桿并解碼。

    2.2 對(duì)標(biāo)學(xué)習(xí)的指導(dǎo)原則

    基于對(duì)標(biāo)管理思想的優(yōu)化理論,其總體思想是對(duì)標(biāo)學(xué)習(xí),但其核心思想與根本精髓,則是對(duì)標(biāo)學(xué)習(xí)的指導(dǎo)規(guī)則和對(duì)標(biāo)學(xué)習(xí)的具體方法。對(duì)標(biāo)管理的規(guī)則是中觀的,是針對(duì)具體問(wèn)題設(shè)計(jì)具體算法,其內(nèi)容如下。

    (1)立標(biāo)記錄實(shí)時(shí)更新。在算法運(yùn)行過(guò)程中,每一輪產(chǎn)生的標(biāo)桿,包括局部標(biāo)桿與全局標(biāo)桿,均記錄在案,并不斷更新。

    (2)對(duì)標(biāo)學(xué)習(xí)按需選擇。個(gè)體在進(jìn)行對(duì)標(biāo)學(xué)習(xí)時(shí),3個(gè)操作算法無(wú)需按順序執(zhí)行。某個(gè)體如果執(zhí)行全局對(duì)標(biāo)學(xué)習(xí)之后沒(méi)有獲得改善,則繼續(xù)進(jìn)行局部對(duì)標(biāo)學(xué)習(xí),否則直接退出本輪對(duì)標(biāo)學(xué)習(xí)。

    (3)學(xué)習(xí)對(duì)象靈活切換。隨著算法運(yùn)行,理論上每次迭代之后的局部(和全局)標(biāo)桿將不斷變化。但為了避免極端狀況,可以設(shè)定規(guī)則強(qiáng)制要求各個(gè)小生境種群相互交換局部標(biāo)桿,從而保證生態(tài)系統(tǒng)內(nèi)的全局極值點(diǎn)能被搜索到。

    (4)高效利用馬太效應(yīng)。個(gè)體在執(zhí)行對(duì)標(biāo)學(xué)習(xí)時(shí)的欲望和強(qiáng)度,也即操作算子的概率,可以根據(jù)個(gè)體自身與標(biāo)桿對(duì)象的差異度和相似度來(lái)決定?;跇?biāo)桿管理的優(yōu)化思想規(guī)定,這個(gè)差異度越小,或相似度越大,則其學(xué)習(xí)欲望就越大,隨之其學(xué)習(xí)強(qiáng)度也越大,這是個(gè)體層面的馬太效應(yīng)。

    (5)合理利用集群效應(yīng)。在對(duì)標(biāo)學(xué)習(xí)過(guò)程中,如果某個(gè)種群發(fā)現(xiàn)了更好的全局解,則其他種群將指派部分個(gè)體進(jìn)入該種群,以協(xié)助進(jìn)行密集搜索。但如果某種群在對(duì)標(biāo)學(xué)習(xí)過(guò)程中一直都沒(méi)有發(fā)現(xiàn)更好的全局解,則種群內(nèi)所有個(gè)體將逐漸被調(diào)配往其他種群,這是種群層面的集群效應(yīng)。

    2.3 對(duì)標(biāo)學(xué)習(xí)的具體方法

    對(duì)標(biāo)學(xué)習(xí)的總體原則就是見(jiàn)賢思齊。具體來(lái)講,就是個(gè)體減少其自身與標(biāo)桿對(duì)象之間的差異度,并(或)增加其自身與標(biāo)桿對(duì)象之間的相似度。具體怎樣實(shí)現(xiàn)這種對(duì)標(biāo)式學(xué)習(xí),取決于算法本身采用的編碼方案。下面給出幾種常見(jiàn)的編碼方案及其相應(yīng)的對(duì)標(biāo)學(xué)習(xí)方法。

    2.3.1 0/1編碼方案下的對(duì)標(biāo)學(xué)習(xí)方法

    常見(jiàn)的0/1編碼方案,有二進(jìn)制碼(binary)、格雷碼(Gray-code)以及獨(dú)熱碼(one-hot)。這3種編碼方案,針對(duì)不同的問(wèn)題,各有優(yōu)勢(shì),也各有缺點(diǎn)。對(duì)于這三者的聯(lián)系和區(qū)別,這里無(wú)需詳述,只是對(duì)于智能優(yōu)化算法來(lái)說(shuō),采用二進(jìn)制碼時(shí),個(gè)體(即候選解)的編碼與解碼過(guò)程,相對(duì)比較簡(jiǎn)單,消耗的計(jì)算時(shí)間較少,但對(duì)于個(gè)體之間的轉(zhuǎn)碼操作,即對(duì)于候選解的搜索操作,相對(duì)復(fù)雜,消耗的存儲(chǔ)空間較多。采用格雷碼或獨(dú)熱碼時(shí),編碼與解碼操作相對(duì)復(fù)雜,消耗的計(jì)算時(shí)間較多,但是轉(zhuǎn)碼操作相對(duì)簡(jiǎn)單,消耗的存儲(chǔ)空間較少。此種情形,與數(shù)字控制系統(tǒng)中的情形,剛好不同,二進(jìn)制編碼與格雷碼編碼,使用觸發(fā)器較少,對(duì)組合邏輯消耗較多,而獨(dú)熱碼編碼則相反。

    當(dāng)算法采用0/1編碼方案時(shí),使用海明距離度量個(gè)體之間的差異度。個(gè)體對(duì)標(biāo)學(xué)習(xí)的具體方法,就是減少自身與標(biāo)桿對(duì)象之間的海明距離。搜索方向和搜索步長(zhǎng)的調(diào)整,主要體現(xiàn)在對(duì)自身坐標(biāo)基因的調(diào)整上。個(gè)體對(duì)標(biāo)學(xué)習(xí)欲望的強(qiáng)弱,主要體現(xiàn)在學(xué)習(xí)率的大小上。個(gè)體對(duì)標(biāo)學(xué)習(xí)行為的強(qiáng)度,主要體現(xiàn)在編碼基因位調(diào)整的個(gè)數(shù)上。

    2.3.2 浮點(diǎn)數(shù)編碼方案下的對(duì)標(biāo)學(xué)習(xí)方法

    當(dāng)采用浮點(diǎn)數(shù)編碼方案時(shí),一般可以使用距離概念來(lái)表征個(gè)體之間的差異度,用相關(guān)系數(shù)來(lái)表征個(gè)體之間的相似度。對(duì)于表征差異度的距離概念,可以采用閔可夫斯基距離(Minkowski distance),根據(jù)問(wèn)題特征和數(shù)據(jù)結(jié)構(gòu),選取合適的參數(shù)值,容易簡(jiǎn)化成曼哈頓距離(Manhattan distance)、歐幾里得距離(Euclidean distance)、切比雪夫距離(Chebyshev distance)等。對(duì)于表征相似度的相關(guān)系數(shù),也可以根據(jù)問(wèn)題需要和數(shù)據(jù)特征,選取合適的計(jì)算方法,如皮爾遜相關(guān)系數(shù)(Pearson correlation coefficient)、夾角余弦相似度(cosine similarity)、Tonimoto系數(shù)、Spearman相關(guān)系數(shù)、Kendall相關(guān)系數(shù)等。

    當(dāng)算法采用浮點(diǎn)數(shù)編碼方案時(shí),個(gè)體對(duì)標(biāo)學(xué)習(xí)的具體方法,就是減少自身與標(biāo)桿對(duì)象之間的閔可夫斯基距離,并(或)增大自身與標(biāo)桿對(duì)象之間的相關(guān)系數(shù)。

    另外,針對(duì)浮點(diǎn)數(shù)編碼,必須特別注意以下兩個(gè)問(wèn)題。一是關(guān)于合理選用度量差異度與相似度的方法問(wèn)題。個(gè)體之間的差異度與相似度,從字面意義來(lái)看,只是兩個(gè)相對(duì)應(yīng)的概念,似乎從算術(shù)上可以相互轉(zhuǎn)換。但是站在計(jì)算機(jī)科學(xué)與數(shù)據(jù)科學(xué)的角度來(lái)看,這是兩個(gè)完全不同的概念,有著不同的確切定義,其內(nèi)涵和外延是完全不同的,不能相互轉(zhuǎn)換。這里用距離概念衡量的差異度,與用相關(guān)系數(shù)衡量的相似度,在不同的分析模型與數(shù)據(jù)結(jié)構(gòu)之下,兩者的差別非常大。差異度,更多的是體現(xiàn)編碼數(shù)值上的大小差別,而相似度,更多的是體現(xiàn)編碼方向上的區(qū)別。在計(jì)算和搜索過(guò)程中,可能會(huì)出現(xiàn)這樣一種現(xiàn)象,即個(gè)體之間的差異度發(fā)生改變了,而相似度卻沒(méi)有變化,或者相反,個(gè)體之間的相似度發(fā)生改變了,而差異度卻沒(méi)有變化。因此,在針對(duì)具體的優(yōu)化問(wèn)題設(shè)計(jì)具體的優(yōu)化算法時(shí),需要根據(jù)其分析模型與數(shù)據(jù)結(jié)構(gòu),選用合適的度量方法。二是算法設(shè)計(jì)與測(cè)試中浮點(diǎn)數(shù)的轉(zhuǎn)碼、計(jì)算與精度問(wèn)題。符合IEEE754標(biāo)準(zhǔn),支持SSE2指令集的絕大多數(shù)CPU/GPU,是當(dāng)前進(jìn)行算法設(shè)計(jì)與測(cè)試的硬件基礎(chǔ)。但是按照IEEE754標(biāo)準(zhǔn)規(guī)定的浮點(diǎn)存儲(chǔ)格式,有一些帶小數(shù)位的十進(jìn)制數(shù)據(jù),無(wú)法使用當(dāng)前計(jì)算機(jī)所使用的0/1二進(jìn)制代碼準(zhǔn)確表示出來(lái)。因此在轉(zhuǎn)碼與計(jì)算時(shí),如果沒(méi)有合理的處理方法,會(huì)出現(xiàn)精度失準(zhǔn)的問(wèn)題。浮點(diǎn)數(shù)及其轉(zhuǎn)碼與計(jì)算的精度,很大程度上取決于指數(shù)范圍的大小。以現(xiàn)行的32位單精度浮點(diǎn)數(shù)為例,最低不能低過(guò)2-7-1,最高不能高過(guò)28-1(其中剔除了指數(shù)部分全0和全1的特殊情況)。如果超出表達(dá)范圍,那就得舍棄末尾的小數(shù),造成向上或向下溢出,甚至有時(shí)候舍棄都無(wú)法表示。這樣在需要表達(dá)一個(gè)極小的數(shù)值時(shí),如果不用規(guī)格化數(shù)值表示,CPU就只能把它當(dāng)0來(lái)處理。如果多次做低精度浮點(diǎn)數(shù)舍棄,則必然精度失準(zhǔn)嚴(yán)重,甚至?xí)霈F(xiàn)除數(shù)為0的情形,從而導(dǎo)致計(jì)算異常。如果做非規(guī)格化浮點(diǎn)處理,雖然可以補(bǔ)救精度失準(zhǔn)的問(wèn)題,但對(duì)于CPU硬件或編譯器要求甚高,轉(zhuǎn)碼和計(jì)算的效率將呈指數(shù)下降。因此智能優(yōu)化算法在設(shè)計(jì)和測(cè)試時(shí),不僅要考慮問(wèn)題域特征,還要考慮計(jì)算過(guò)程中的硬件CPU/GPU、軟件編譯器問(wèn)題。最后返回計(jì)算結(jié)果時(shí),還有算法自身的解碼環(huán)節(jié),即二進(jìn)制機(jī)器碼與浮點(diǎn)數(shù)之間的轉(zhuǎn)碼,這涉及算法代碼優(yōu)化問(wèn)題,不再贅述。

    2.3.3 字符(串)編碼或布爾值編碼下的對(duì)標(biāo)學(xué)習(xí)方法

    現(xiàn)代管理工作中,尤其數(shù)據(jù)管理工作中的許多問(wèn)題,比如電子商務(wù)領(lǐng)域常見(jiàn)的商品評(píng)價(jià)與推薦問(wèn)題,涉及人機(jī)交互,許多模型必須使用符號(hào)函數(shù),往往需要字符或字符串編碼,或者布爾值編碼。

    當(dāng)采用字符(串)編碼或布爾值編碼方案時(shí),一般可以使用Levenshtein distance(編輯距離)、Jaro-Winkler distance(哈羅-溫克勒距離)、Jaccard coefficient(杰卡德系數(shù))等概念來(lái)表征個(gè)體之間的差異度或相似度。個(gè)體對(duì)標(biāo)學(xué)習(xí)的具體方法,就是通過(guò)基因編輯,減少自身與標(biāo)桿對(duì)象之間的距離,并(或)增大自身與標(biāo)桿對(duì)象之間的相似度。

    3 對(duì)標(biāo)學(xué)習(xí)算法的若干技術(shù)

    3.1 智能性

    基于概率搜索的智能優(yōu)化算法,其智能性主要體現(xiàn)在概率規(guī)則的制定上。這個(gè)概率規(guī)則,主要是指算法在運(yùn)行過(guò)程中,其設(shè)計(jì)的操作算子被執(zhí)行時(shí)的概率規(guī)則。因此,幾乎所有的智能優(yōu)化算法,除了需要為操作算子的概率設(shè)置初始值之外,還需要為其設(shè)計(jì)一套相應(yīng)的變化規(guī)則。比如遺傳算法及其各種改進(jìn)版本,需要為選擇、交叉和變異這3個(gè)操作算子的概率設(shè)置相應(yīng)的初始值和變化規(guī)則;粒子群算法及其各種改進(jìn)版本,需要為其慣性權(quán)重和加速系數(shù)設(shè)置合適的初始值和變化規(guī)則;蟻群算法及其各種改進(jìn)版本,需要為其信息素和啟發(fā)式因子設(shè)置合適的初始值和變化規(guī)則。這些概率的初始值及其變化規(guī)則,設(shè)置恰當(dāng)與否,決定了算法能否搜索到問(wèn)題的最優(yōu)解,甚至直接決定了算法能否正常發(fā)揮其應(yīng)有的搜索性能。但是,概率參數(shù)如何配置,才能使得算法的優(yōu)化性能達(dá)到最優(yōu),這本身就是一個(gè)組合優(yōu)化問(wèn)題。目前該問(wèn)題在理論上尚沒(méi)有得到很好的解決,因此,幾乎所有智能優(yōu)化算法,在概率參數(shù)的配置上,主要依靠統(tǒng)計(jì)經(jīng)驗(yàn)。這也是目前所有智能優(yōu)化算法存在著的一個(gè)軟肋。

    本文提出的對(duì)標(biāo)學(xué)習(xí)算法,完全不存在這個(gè)問(wèn)題。由前文內(nèi)容可知,對(duì)標(biāo)學(xué)習(xí)算法,完全不需要為其操作算子的概率設(shè)置初始值和變化規(guī)則。無(wú)論全局學(xué)習(xí)率、局部學(xué)習(xí)率,還是自我學(xué)習(xí)率,在對(duì)標(biāo)學(xué)習(xí)算法的簡(jiǎn)單版本中,都是完全隨機(jī)的。在設(shè)計(jì)其他版本時(shí),可以為每個(gè)操作算子的概率設(shè)置相應(yīng)的初始值及變化規(guī)則。但這樣一來(lái),不僅增加了算法的復(fù)雜性,而且實(shí)驗(yàn)表明,這種做法并沒(méi)有讓算法性能有質(zhì)的提升。實(shí)際上,標(biāo)桿學(xué)習(xí)算法的搜索性能,不依賴于操作算子的概率規(guī)則,而是依賴于對(duì)標(biāo)管理思想,依賴于對(duì)標(biāo)學(xué)習(xí)的指導(dǎo)原則和具體方法。算法中的基本操作算子,只是對(duì)標(biāo)學(xué)習(xí)思想及其指導(dǎo)原則在特定的編碼方案和特定的數(shù)據(jù)結(jié)構(gòu)之下的一種具體實(shí)現(xiàn)而已。事實(shí)上,只要遵循對(duì)標(biāo)管理的若干思想和若干原則,設(shè)計(jì)出特定的編碼方案及相應(yīng)的數(shù)據(jù)結(jié)構(gòu)之下的學(xué)習(xí)方法,自然就會(huì)獲得優(yōu)良的搜索和優(yōu)化性能。這種無(wú)需概率規(guī)則的制度設(shè)計(jì),完全避免了概率規(guī)則對(duì)于算法性能的影響。對(duì)標(biāo)學(xué)習(xí)算法的“智能性”,完全沒(méi)有體現(xiàn)在操作算子的概率規(guī)則上,而體現(xiàn)在了操作算子的組織策略上。

    3.2 探索性與開(kāi)發(fā)性的自動(dòng)平衡

    探索性體現(xiàn)了算法進(jìn)行全局搜索,開(kāi)拓新空間的能力,而開(kāi)發(fā)性體現(xiàn)了算法進(jìn)行局部?jī)?yōu)化,小幅改善求精的能力。一般來(lái)說(shuō),一個(gè)算法的探索性越強(qiáng),則其開(kāi)發(fā)性就越弱,反之亦然。因此傳統(tǒng)上,算法的探索性與開(kāi)發(fā)性是一對(duì)矛盾體,相互沖突和對(duì)立,無(wú)法相容。如果探索性太強(qiáng)而開(kāi)發(fā)性太弱,則搜索結(jié)果容易發(fā)散,容易錯(cuò)過(guò)全局最優(yōu)解,最終不利于對(duì)全局極值的搜索;如果探索性太弱而開(kāi)發(fā)性太強(qiáng),則搜索結(jié)果容易集聚,容易陷入局部最優(yōu)解,最終也不利于對(duì)全局極值的搜索。判斷一個(gè)智能優(yōu)化算法的性能如何,其中最為重要的一點(diǎn),就是看其采用什么策略來(lái)平衡其全局搜索與局部?jī)?yōu)化。算法的探索性與開(kāi)發(fā)性權(quán)衡的策略,在很大程度上決定了一個(gè)算法的優(yōu)劣。為了平衡算法的探索性與開(kāi)發(fā)性,目前現(xiàn)存的智能優(yōu)化算法采用的策略,幾乎都是給不同的操作算子附加相應(yīng)的概率參數(shù)。在這個(gè)概率參數(shù)的取值上,具體做法大體有兩種,一是根據(jù)統(tǒng)計(jì)經(jīng)驗(yàn)提前設(shè)定某個(gè)(些)固定值,二是根據(jù)某些原則在搜索過(guò)程中自適應(yīng)地動(dòng)態(tài)調(diào)整。比如遺傳算法及其各類改良版本,往往都是通過(guò)選擇率、交叉率和變異率3個(gè)參數(shù)來(lái)平衡其探索性與開(kāi)發(fā)性;粒子群優(yōu)化算法及其各類改良版本,往往都是通過(guò)一個(gè)慣性權(quán)重和兩個(gè)加速系數(shù)來(lái)平衡其探索性與開(kāi)發(fā)性;蟻群優(yōu)化算法及其各類改良版本,往往都是通過(guò)信息素濃度這個(gè)參數(shù)來(lái)平衡其探索性與開(kāi)發(fā)性。在這個(gè)概率參數(shù)的取值上,每個(gè)算法雖然各有自己的技巧,但都不盡如人意。因?yàn)檫@個(gè)概率參數(shù),作為控制變量,其取值問(wèn)題本身也是一個(gè)待解的優(yōu)化問(wèn)題,尚未得到圓滿解決。事實(shí)上,無(wú)論使用什么技巧來(lái)設(shè)定這個(gè)概率參數(shù),其取值及相應(yīng)的平衡效果可能都不是最優(yōu)的。因此,總體而言,現(xiàn)存的智能優(yōu)化算法,對(duì)于全局搜索與局部?jī)?yōu)化,即探索性與開(kāi)發(fā)性,如何平衡的難題,沒(méi)有得到很好的解決。

    人們認(rèn)為算法的探索性與開(kāi)發(fā)性,其本身是相互對(duì)立和無(wú)法相容的,但是在算法的設(shè)計(jì)中,是可以實(shí)現(xiàn)協(xié)同并存和自動(dòng)均衡的。因此在算法的設(shè)計(jì)與開(kāi)發(fā)過(guò)程中,探索性與開(kāi)發(fā)性相互對(duì)立、無(wú)法相容的“潛規(guī)則”是完全可以避免的。本文提出的算法框架,拋棄了傳統(tǒng)的利用概率參數(shù)來(lái)平衡算法探索性與開(kāi)發(fā)性的策略。事實(shí)上,只要是根據(jù)對(duì)標(biāo)學(xué)習(xí)的指導(dǎo)原則,即不依賴控制參數(shù),而是依靠科學(xué)合理的制度,設(shè)計(jì)出來(lái)的優(yōu)化算法,其全局搜索與局部?jī)?yōu)化,即算法的探索性與開(kāi)發(fā)性將會(huì)協(xié)同并存,并且會(huì)自動(dòng)平衡。在本文提出的通用框架之內(nèi),個(gè)體進(jìn)行全局對(duì)標(biāo)學(xué)習(xí),就相當(dāng)于對(duì)未知極值點(diǎn)的概率分布進(jìn)行探索,這樣進(jìn)行全局搜索,就起到了開(kāi)拓新空間的作用,體現(xiàn)了算法的探索性。個(gè)體進(jìn)行局部對(duì)標(biāo)學(xué)習(xí),就相當(dāng)于根據(jù)當(dāng)前的觀測(cè)值,利用已知的動(dòng)作獲取更多回饋以使下一次“收益最大化”,這樣進(jìn)行局部?jī)?yōu)化,就起到了小幅改善求精的作用,體現(xiàn)了算法的開(kāi)發(fā)性。對(duì)標(biāo)學(xué)習(xí)的指導(dǎo)原則中第二條,即學(xué)習(xí)行為按需選擇的設(shè)計(jì)原則,使全局對(duì)標(biāo)學(xué)習(xí)行為與局部對(duì)標(biāo)學(xué)習(xí)行為,在同一輪的迭代搜索中,都得到執(zhí)行。這樣同輪異步的制度設(shè)計(jì),巧妙地解決了全局搜索與局部?jī)?yōu)化無(wú)法并行共存的難題,從根本上保證了算法探索性與開(kāi)發(fā)性的自動(dòng)平衡。這個(gè)特點(diǎn),在后面的仿真實(shí)驗(yàn)中也得到了證實(shí)。

    3.3 對(duì)于探索性與開(kāi)發(fā)性自動(dòng)平衡的實(shí)驗(yàn)證明

    現(xiàn)以MATLAB內(nèi)置的Peaks函數(shù)為例,測(cè)試本文提出的對(duì)標(biāo)學(xué)習(xí)算法如何實(shí)現(xiàn)探索性與開(kāi)發(fā)性的自動(dòng)平衡。本次測(cè)試使用對(duì)標(biāo)學(xué)習(xí)算法簡(jiǎn)單版本,初始階段生態(tài)系統(tǒng)內(nèi)共有5個(gè)小生境種群,每個(gè)種群包含3個(gè)個(gè)體,即總共包含15個(gè)個(gè)體。算法采用二進(jìn)制編碼方案,個(gè)體的編碼長(zhǎng)度為30,算法的最大迭代次數(shù)設(shè)定為100。

    這里分兩種情形,一是初始種群在搜索空間內(nèi)隨機(jī)分布時(shí);二是初始種群被置于搜索空間內(nèi)同一點(diǎn)(3,3)時(shí)。下面分別列出以上兩種情況下,生態(tài)系統(tǒng)內(nèi)每一個(gè)個(gè)體的搜索過(guò)程。因?yàn)橥瑫r(shí)在動(dòng)畫(huà)中展示15個(gè)個(gè)體的搜索過(guò)程會(huì)顯得非?;靵y,因此每一個(gè)個(gè)體的搜索過(guò)程均使用一張動(dòng)態(tài)圖片單獨(dú)展示,這樣就有30張動(dòng)態(tài)圖片,顯示了個(gè)體是如何在探索性與開(kāi)發(fā)性之間實(shí)現(xiàn)動(dòng)態(tài)平衡的。從15個(gè)個(gè)體分別在兩種初始分布條件下的搜索過(guò)程的動(dòng)態(tài)展示中,可以看到如下3個(gè)明顯的現(xiàn)象。

    一是個(gè)體進(jìn)行了多次“爬山”過(guò)程。在搜索過(guò)程中,可以很明顯地看到,當(dāng)它居于半山腰時(shí),受到局部標(biāo)桿的吸引,它產(chǎn)生了多次“爬山”過(guò)程,并最終爬到了山頂,實(shí)現(xiàn)了對(duì)全局最大值的搜索。這個(gè)“爬山”過(guò)程,相當(dāng)于根據(jù)當(dāng)前的觀測(cè)值,利用已知的動(dòng)作獲取更多回饋,以使下一次“收益最大化”,起到了小幅改善求精的作用,體現(xiàn)了對(duì)標(biāo)學(xué)習(xí)算法的開(kāi)發(fā)性。

    二是個(gè)體的搜索軌跡幾乎遍及整個(gè)解空間。算法的最大迭代次數(shù)設(shè)定為100,即個(gè)體只演化搜索100個(gè)世代,可以看到,在這100次迭代過(guò)程中,個(gè)體的搜索路徑幾乎覆蓋了整個(gè)解空間。理論上,只要迭代次數(shù)足夠多,個(gè)體可以遍歷整個(gè)搜索空間。這種大范圍的遍歷性全局搜索能力,體現(xiàn)了個(gè)體開(kāi)拓新空間的能力,體現(xiàn)了對(duì)標(biāo)學(xué)習(xí)算法的探索性。

    三是所有個(gè)體均多次搜索到了全局極大值。比如第一號(hào)個(gè)體在100次迭代過(guò)程中,在初始種群隨機(jī)分布和同一分布兩種條件下,分別有15次和17次搜索到了Peaks函數(shù)的全局最大值。這是由對(duì)標(biāo)學(xué)習(xí)算法的搜索策略決定的,對(duì)標(biāo)學(xué)習(xí)式的搜索策略使得算法具有很高的搜索效率。

    需要說(shuō)明的是,本次實(shí)驗(yàn)所使用的數(shù)據(jù),是由算法隨便運(yùn)行一次產(chǎn)生的,并無(wú)特意挑揀。

    4 對(duì)標(biāo)學(xué)習(xí)算法對(duì)于動(dòng)態(tài)優(yōu)化問(wèn)題的應(yīng)用

    4.1 動(dòng)態(tài)函數(shù)優(yōu)化問(wèn)題設(shè)計(jì)原因

    為什么要設(shè)計(jì)動(dòng)態(tài)函數(shù)優(yōu)化問(wèn)題?有3個(gè)原因,第一是現(xiàn)實(shí)世界中的科學(xué)、工程和管理問(wèn)題,大多都可以轉(zhuǎn)化為最優(yōu)化問(wèn)題。第二是這些最優(yōu)化問(wèn)題大多都可以轉(zhuǎn)化為對(duì)相關(guān)數(shù)學(xué)模型的求解問(wèn)題。比如,現(xiàn)代信息生物學(xué)中預(yù)測(cè)蛋白質(zhì)穩(wěn)定結(jié)構(gòu)的問(wèn)題,可以轉(zhuǎn)化為求解蛋白質(zhì)結(jié)構(gòu)的最低勢(shì)能值問(wèn)題,而后者,又可以轉(zhuǎn)化為對(duì)HP格點(diǎn)模型、AB非格點(diǎn)模型等蛋白質(zhì)結(jié)構(gòu)簡(jiǎn)化模型的求解問(wèn)題;現(xiàn)代分子生物學(xué)中腫瘤微陣列基因表達(dá)數(shù)據(jù)的分類問(wèn)題,可以轉(zhuǎn)化為求解最優(yōu)的腫瘤特征基因提取和分類模型的問(wèn)題,而后者,可以轉(zhuǎn)化為對(duì)表征樣本間距離和相似性的目標(biāo)函數(shù)的求解問(wèn)題;當(dāng)代大數(shù)據(jù)科學(xué)中復(fù)雜網(wǎng)絡(luò)的結(jié)構(gòu)測(cè)定問(wèn)題,可以轉(zhuǎn)化為求解最優(yōu)網(wǎng)絡(luò)結(jié)構(gòu)的問(wèn)題,而后者,又可以轉(zhuǎn)化為對(duì)網(wǎng)絡(luò)平衡結(jié)構(gòu)模型的求解問(wèn)題;現(xiàn)代智能工業(yè)移動(dòng)機(jī)器人的實(shí)時(shí)調(diào)度問(wèn)題,可以轉(zhuǎn)化為機(jī)器人的移動(dòng)路徑最優(yōu)化問(wèn)題,而后者又可以轉(zhuǎn)化為對(duì)移動(dòng)機(jī)器人運(yùn)動(dòng)學(xué)模型的求解問(wèn)題。第三是這些靜態(tài)數(shù)學(xué)模型是其現(xiàn)實(shí)世界當(dāng)中動(dòng)態(tài)模型的特例,是其真實(shí)模型的理想狀態(tài)。如果一個(gè)算法能夠很好地求解某個(gè)問(wèn)題的動(dòng)態(tài)模型,則對(duì)其理想狀態(tài)下的靜態(tài)模型的求解,自然不成問(wèn)題。

    關(guān)于動(dòng)態(tài)函數(shù)的構(gòu)造,已經(jīng)有學(xué)者提出了許多種方法。本文使用兩種簡(jiǎn)單的通過(guò)靜態(tài)函數(shù)優(yōu)化問(wèn)題構(gòu)造動(dòng)態(tài)函數(shù)優(yōu)化問(wèn)題的方法。一是改變函數(shù)的約束條件,使得搜索空間發(fā)生變形,比如靜態(tài)函數(shù)中變量的個(gè)數(shù)及其取值范圍,根據(jù)特定的規(guī)則發(fā)生變化,從而構(gòu)造動(dòng)態(tài)函數(shù)優(yōu)化問(wèn)題;二是改變個(gè)體基因的編碼序列,使得個(gè)體基因發(fā)生變形。比如當(dāng)采用0/1編碼方案時(shí),所有個(gè)體的基因表達(dá)式,周期性地與某個(gè)特定的模板進(jìn)行異或運(yùn)算,從而構(gòu)造動(dòng)態(tài)函數(shù)優(yōu)化問(wèn)題。

    動(dòng)態(tài)問(wèn)題與靜態(tài)問(wèn)題最大的不同,在于其因環(huán)境變量不斷變化,其最優(yōu)解不再固定不變,而是隨著環(huán)境的變化而動(dòng)態(tài)變化。因此對(duì)動(dòng)態(tài)問(wèn)題進(jìn)行求解,不僅是要求出問(wèn)題的最優(yōu)解,更重要的是要跟蹤問(wèn)題最優(yōu)解的運(yùn)動(dòng)軌跡。動(dòng)態(tài)函數(shù)優(yōu)化問(wèn)題主要用來(lái)測(cè)試算法對(duì)所求解問(wèn)題的全局極值的動(dòng)態(tài)跟蹤能力。

    4.2 基于空間變形的動(dòng)態(tài)函數(shù)優(yōu)化

    基于空間變形的動(dòng)態(tài)函數(shù)優(yōu)化問(wèn)題,是這樣定義的:Schwefel函數(shù)的定義域在±500之間變化時(shí)有3個(gè)變量;在±1 000之間變化時(shí)有2個(gè)變量,這樣其全局最小值會(huì)隨之發(fā)生漂移。動(dòng)態(tài)函數(shù)如下:

    定義域變化大小程度表征環(huán)境震蕩強(qiáng)度,可以用來(lái)測(cè)試算法對(duì)于函數(shù)在不同解空間內(nèi)全局最小值的動(dòng)態(tài)追蹤能力。在本次測(cè)試實(shí)驗(yàn)中,使用IEEE CEC2017實(shí)參數(shù)單目標(biāo)優(yōu)化競(jìng)賽中排名前四的4個(gè)算法,分別是jSO[4]、LSHADE-cnEpSin[5]、LSHADE-SPACMA[6]、DES[7],與本文提出的對(duì)簡(jiǎn)單標(biāo)學(xué)習(xí)算法(SBA)進(jìn)行對(duì)比。為保證公平公正,在實(shí)驗(yàn)中,用以測(cè)試的5個(gè)算法的最大迭代次數(shù)統(tǒng)一都設(shè)為1 000,每隔100代函數(shù)的定義域發(fā)生一次震蕩,即環(huán)境總共經(jīng)歷10個(gè)周期,也即10次震蕩。5個(gè)算法都包括100個(gè)個(gè)體(或粒子),初始化時(shí)所有個(gè)體都被安置在同一點(diǎn)(3,3)。5個(gè)算法都采用浮點(diǎn)數(shù)編碼方案,且都運(yùn)行100次,取平均值。計(jì)算結(jié)果如圖1所示。

    從實(shí)驗(yàn)結(jié)果可以觀察到幾個(gè)明顯的現(xiàn)象:一是對(duì)標(biāo)學(xué)習(xí)算法的動(dòng)態(tài)追蹤能力遠(yuǎn)強(qiáng)于其他4個(gè)算法,且其頑健性超強(qiáng)??梢钥吹剑瑹o(wú)論函數(shù)定義域如何變化,對(duì)標(biāo)學(xué)習(xí)算法都能進(jìn)行有效追蹤,并且都能搜索到新空間內(nèi)的全局最優(yōu)解。二是對(duì)標(biāo)學(xué)習(xí)算法的快速收斂能力很強(qiáng)。面對(duì)新環(huán)境,對(duì)標(biāo)學(xué)習(xí)算法總是能很快收斂到全局最優(yōu)解上。這是學(xué)習(xí)性競(jìng)爭(zhēng)與競(jìng)爭(zhēng)性學(xué)習(xí)思想有機(jī)融合的魅力。另外,這也與初始化時(shí)設(shè)置的種群及個(gè)體數(shù)量有關(guān),數(shù)量越大,則全局收斂速度越快。三是在環(huán)境發(fā)生不同強(qiáng)度的震蕩時(shí),其他4個(gè)算法的搜索性能也同步發(fā)生了不同程度的震蕩。這4個(gè)算法的動(dòng)態(tài)優(yōu)化性能,看似總體差別不大,但實(shí)際上彼此之間差異很大。從圖1中可以看到,每個(gè)算法搜索到的最優(yōu)解的路徑與軌跡整體上比較平滑,那是因?yàn)樗鼈兪敲總€(gè)算法運(yùn)行100次結(jié)果的平均值。可以觀察到,其他4個(gè)算法的搜索性能是極不穩(wěn)定的。

    4.3 基于基因變形的動(dòng)態(tài)函數(shù)優(yōu)化

    圖1 基于空間變形的動(dòng)態(tài)函數(shù)優(yōu)化運(yùn)行100次的平均值

    在本次測(cè)試實(shí)驗(yàn)中,5個(gè)算法的參數(shù)設(shè)置與第4.2節(jié)實(shí)驗(yàn)完全相同。為保證公平公正,在本次實(shí)驗(yàn)中,用以測(cè)試的5個(gè)算法的最大迭代次數(shù)統(tǒng)一都設(shè)為1 000,每隔100代函數(shù)的定義域發(fā)生一次震蕩,即環(huán)境總共經(jīng)歷10個(gè)周期,也即10次震蕩。5個(gè)算法都包括100個(gè)個(gè)體(或粒子),初始化時(shí)所有個(gè)體都被安置在同一點(diǎn)(3,3)。5個(gè)算法都采用二進(jìn)制編碼方案,且都運(yùn)行100次,取平均值。當(dāng)環(huán)境變化強(qiáng)度(CR)分別為0.1、0.5、0.9時(shí),5個(gè)算法對(duì)全局最小值的動(dòng)態(tài)追蹤軌跡如圖2所示。

    可以看出:一是對(duì)標(biāo)學(xué)習(xí)算法的快速收斂能力較強(qiáng),且其頑健性很強(qiáng),遠(yuǎn)遠(yuǎn)優(yōu)于其他4個(gè)算法。二是環(huán)境變化對(duì)算法具有顯著的影響。可以看到環(huán)境震蕩強(qiáng)度,從0.1增大到0.5時(shí),5個(gè)算法的搜索結(jié)果都出現(xiàn)了強(qiáng)烈的震蕩,從0.5增大到0.9時(shí),其他4個(gè)算法的搜索結(jié)果的震蕩程度都增大了,但對(duì)標(biāo)學(xué)習(xí)算法反而減小了,這和它具有較強(qiáng)的保持種群多樣性的能力有關(guān)。因?yàn)閷?duì)標(biāo)學(xué)習(xí)算法在運(yùn)行過(guò)程能一直保持較好的種群多樣性,在環(huán)境發(fā)生變化前夕,即所有個(gè)體基因在與模板做異或運(yùn)算之前,有的個(gè)體本來(lái)離全局最優(yōu)解的距離較遠(yuǎn),同時(shí)因?yàn)榄h(huán)境震蕩強(qiáng)度為0.9,即模板上有90%的基因值為1,于是那些本來(lái)較差的個(gè)體在與模板做異或運(yùn)算時(shí),其基因反而得到了改善。于是圖2(c)中所示的算法在每一代的全局最優(yōu)解,在搜索空間發(fā)生變形時(shí),震蕩反而不及0.5時(shí)劇烈。三是與基于空間變形的動(dòng)態(tài)函數(shù)優(yōu)化時(shí)類似,在環(huán)境發(fā)生不同強(qiáng)度的震蕩時(shí),其他4個(gè)算法的搜索性能也同步發(fā)生了不同程度的震蕩,時(shí)好時(shí)差。

    5 結(jié)束語(yǔ)

    本文的核心貢獻(xiàn)在于算法的“智能性”是體現(xiàn)在操作算子的組織策略而非概率規(guī)則上,這樣就打破了需要依靠概率規(guī)則來(lái)平衡探索性與開(kāi)發(fā)性的“潛規(guī)則”。從本質(zhì)上講,本框架不只是一個(gè)具體的算法,更是一種普適性方法論,它介于工程技術(shù)與認(rèn)知哲學(xué)之間。因此它可以應(yīng)用于科學(xué)、工程和管理中許多具體問(wèn)題當(dāng)中。

    一般來(lái)說(shuō),元啟發(fā)式搜索的設(shè)計(jì)是一類實(shí)驗(yàn)性科學(xué),其大部分工作是基于模擬實(shí)驗(yàn)和實(shí)際應(yīng)用的。這類算法的復(fù)雜隨機(jī)性使得嚴(yán)謹(jǐn)?shù)睦碚撗芯?,尤其是?jì)算復(fù)雜性研究難以實(shí)現(xiàn)。盡管已經(jīng)提出了許多理論和方法來(lái)研究這類算法的計(jì)算復(fù)雜性和收斂性,但在理論界存在一些爭(zhēng)議[8,9]。根據(jù)奧卡姆剃刀原則,本文拋棄了復(fù)雜的操作算子的概率調(diào)優(yōu)規(guī)則,用一個(gè)簡(jiǎn)單的框架來(lái)組織核心算子,達(dá)到了許多組合算法的搜索效果。本文的目的是將企業(yè)管理中的標(biāo)桿管理思想建模為單目標(biāo)實(shí)參數(shù)優(yōu)化問(wèn)題的搜索方法。

    [1] S?RENSEN K. Metaheuristic-the metaphor exposed[J]. International Transactions in Operational Research, 2015, 22(1): 3-18.

    [2] PIOTROWSKI A P, NAPIORKOWSKIJ J, ROWINSKIP M. How novel is the “novel” black hole optimization approach?[J]. Information Sciences, 2014(267): 191-200.

    [3] FONG S, WANG X, XU Q, et al. Recent advances in metaheuristic algorithms: does the Makara dragon exist?[J]. The Journal of Supercomputing, 2016, 72(10): 3764-3786.

    [4] BREST J, MAU?EC M S, BO?KOVI? B. Single objective real-parameter optimization: algorithm jSO[C]//2017 IEEE Congress onEvolutionary Computation (CEC), June 5-8, 2017, San Sebastian, Spain. Piscataway: IEEE Press, 2017: 1311-1318.

    [5] AWAD N H , ALI M Z, SUGANTHAN P N. Ensemble sinusoidal differential covariance matrix adaptation with Euclidean neighborhood for solving CEC2017 benchmark problems[C]//2017 IEEE Congress on Evolutionary Computation (CEC), June 5-8, 2017, San Sebastian, Spain. Piscataway: IEEE Press, 2017: 372-379.

    [6] MOHAMED A W, HADI A A, FATTOUH A M, et al. LSHADE with semi-parameter adaptation hybrid with CMA-ES for solving CEC 2017 benchmark problems[C]//2017 IEEE Congress on Evolutionary Computation (CEC), June 5-8, 2017, San Sebastian, Spain. Piscataway: IEEE Press, 2017:145-152.

    [7] JAGODZI?SKI D, ARABAS J. A differential evolution strategy[C]//2017 IEEE Congress on Evolutionary Computation (CEC), June 5-8, 2017, San Sebastian, Spain. Piscataway: IEEE Press, 2017: 1872-1876.

    [8] MICHALEWICZ Z. Quo vadis, evolutionary computation? On a growing gap between theory andpractice[J]. Lecture Notes in Computer Science, 2012: 98-121.

    [9] MICHALEWICZ Z. The emperor is naked: evolutionary algorithms for real-world applications[J]. Association for Computing Machinery Inc, 2012(3): 1-13.

    Intelligent optimization algorithm based on benchmarking

    XIE Anshi

    Zhejiang University of Technology, Hangzhou 310014, China

    Many of the issues in scientific research, engineeringand management can be transformed into optimization problems. The various methods applied to these problems were a variety of models. Designing different methods was designing different models. The theme was to model the benchmarking philosophy in business management as a meta-heuristic search method for single objective bound-constrained real-parameter optimization problems. According to the principle of Occam’s Razor, many complicated operators and their probability tuning rules were abandoned and a simple framework was used to organize the core operators to achieve the effect of many composition algorithms.

    intelligent optimization algorithm, exploration and exploitation, global search and local optimization, benchmarking management

    N940,TP202

    A

    10.11959/j.issn.1000?0801.2018144

    2017?08?01;

    2018?04?05

    浙江省哲學(xué)社會(huì)科學(xué)重點(diǎn)研究基地技術(shù)創(chuàng)新與企業(yè)國(guó)際化研究中心項(xiàng)目;浙江工業(yè)大學(xué)中小微企業(yè)轉(zhuǎn)型升級(jí)協(xié)同創(chuàng)新中心項(xiàng)目;教育部人文社會(huì)科學(xué)基金資助項(xiàng)目(No.17YJC630011)

    Research Fund from “Zhejiang Provincial Key Research Base of Philosophy and Social Sciences-Research Centre for Technology Innovation and Enterprise Internationalization”, Research Fund from “Collaborative Innovation Center for Transformation and Upgrading of Micro, Small and Medium Enterprises, Zhejiang University of Technology”, The Ministry of Education of Humanities and Social Science Project (No.17YJC630011)

    謝安世(1983–),男,博士,浙江工業(yè)大學(xué)助理研究員,主要研究方向?yàn)楣芾砼c決策的認(rèn)識(shí)論與方法論。

    猜你喜歡
    編碼方案開(kāi)發(fā)性探索性
    心有所“屬”,一“探”究竟——立體幾何探索性問(wèn)題的解法梳理
    科技型中小企業(yè)開(kāi)發(fā)性金融融資戰(zhàn)略的相關(guān)研究
    基于功能類別和技術(shù)參數(shù)的刀具編碼方案設(shè)計(jì)
    基于唯一標(biāo)識(shí)的ATP車(chē)載設(shè)備編碼方案研究
    立體幾何中探索性問(wèn)題的“創(chuàng)新”
    基于改進(jìn)粒子群算法的毫米波大規(guī)模MIMO混合預(yù)編碼方案
    開(kāi)發(fā)性核電廠廠址保護(hù)工作探索與初步實(shí)踐
    解決圓錐曲線中存在、探索性問(wèn)題的途徑
    開(kāi)發(fā)性金融支持現(xiàn)代農(nóng)業(yè)示范區(qū)建設(shè)的實(shí)踐與探索
    三種預(yù)編碼方案對(duì)OFDM系統(tǒng)峰均比的影響分析
    又黄又爽又免费观看的视频| 色视频www国产| 欧美黑人欧美精品刺激| 三级男女做爰猛烈吃奶摸视频| 日本黄色片子视频| 国产黄色小视频在线观看| 午夜免费成人在线视频| 久久久精品大字幕| 毛片女人毛片| 日韩欧美三级三区| 女同久久另类99精品国产91| 特大巨黑吊av在线直播| 国产精品久久久久久人妻精品电影| 18禁黄网站禁片免费观看直播| 欧美一级a爱片免费观看看| 国产亚洲av嫩草精品影院| 美女黄网站色视频| 亚洲精品一卡2卡三卡4卡5卡| 亚洲在线自拍视频| 日韩高清综合在线| 男女做爰动态图高潮gif福利片| 黄色一级大片看看| 国产成人啪精品午夜网站| 成人无遮挡网站| 亚洲内射少妇av| 午夜福利在线在线| 一本综合久久免费| 国产精品久久久久久久久免 | 久久婷婷人人爽人人干人人爱| 亚洲av五月六月丁香网| 久久久国产成人精品二区| 亚洲aⅴ乱码一区二区在线播放| 日本精品一区二区三区蜜桃| 中文字幕av成人在线电影| 日韩国内少妇激情av| 九色国产91popny在线| 青草久久国产| 国产一区二区激情短视频| 大型黄色视频在线免费观看| 一本综合久久免费| 99久国产av精品| 精品欧美国产一区二区三| 俄罗斯特黄特色一大片| 国产精品av视频在线免费观看| 97碰自拍视频| 欧美不卡视频在线免费观看| 在线国产一区二区在线| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 日韩 亚洲 欧美在线| www.www免费av| 亚洲性夜色夜夜综合| 亚洲自偷自拍三级| 亚洲片人在线观看| 2021天堂中文幕一二区在线观| 精品一区二区三区人妻视频| 黄色一级大片看看| 看黄色毛片网站| av在线老鸭窝| 色综合欧美亚洲国产小说| 亚洲成人久久爱视频| 国产精华一区二区三区| 免费观看人在逋| 亚洲精品色激情综合| av国产免费在线观看| 成人毛片a级毛片在线播放| 国产视频一区二区在线看| 好看av亚洲va欧美ⅴa在| 色综合欧美亚洲国产小说| 午夜精品久久久久久毛片777| 毛片一级片免费看久久久久 | 麻豆久久精品国产亚洲av| 国产黄片美女视频| 亚洲美女搞黄在线观看 | 国产精品98久久久久久宅男小说| av天堂在线播放| 精品熟女少妇八av免费久了| а√天堂www在线а√下载| 色综合站精品国产| 我的女老师完整版在线观看| 久久精品国产自在天天线| 亚洲 国产 在线| av福利片在线观看| netflix在线观看网站| 日韩大尺度精品在线看网址| 精品久久久久久成人av| 欧美xxxx性猛交bbbb| 18禁裸乳无遮挡免费网站照片| 免费搜索国产男女视频| 久久久久久久午夜电影| 国产精品一及| 少妇丰满av| av天堂在线播放| 国内精品美女久久久久久| 久久九九热精品免费| 亚洲成人中文字幕在线播放| 国产精品久久电影中文字幕| 高清日韩中文字幕在线| 亚洲欧美日韩无卡精品| 一区二区三区高清视频在线| 国产乱人伦免费视频| 亚洲欧美日韩东京热| 18+在线观看网站| 怎么达到女性高潮| 高潮久久久久久久久久久不卡| 亚洲精品乱码久久久v下载方式| 久久草成人影院| 国产单亲对白刺激| 国产精品久久久久久久久免 | 国内精品久久久久精免费| 亚洲美女搞黄在线观看 | 久久久久亚洲av毛片大全| ponron亚洲| 亚洲成人免费电影在线观看| 又黄又爽又免费观看的视频| 亚洲欧美日韩东京热| 日本熟妇午夜| 99久久99久久久精品蜜桃| av专区在线播放| 亚洲天堂国产精品一区在线| 亚洲第一电影网av| 久久伊人香网站| 一卡2卡三卡四卡精品乱码亚洲| 日本撒尿小便嘘嘘汇集6| 亚洲最大成人手机在线| 在线观看美女被高潮喷水网站 | 国产一区二区在线av高清观看| 少妇人妻一区二区三区视频| 精品国产亚洲在线| 国产精品国产高清国产av| 午夜免费男女啪啪视频观看 | 一进一出抽搐gif免费好疼| 老司机深夜福利视频在线观看| 精品久久久久久久久久免费视频| 99久久精品国产亚洲精品| 精品一区二区三区视频在线| 99riav亚洲国产免费| 亚洲欧美日韩卡通动漫| 国产三级在线视频| 久久久久久久久久成人| 美女 人体艺术 gogo| 欧美黑人巨大hd| 极品教师在线免费播放| 舔av片在线| 麻豆国产97在线/欧美| 精品午夜福利在线看| 国产私拍福利视频在线观看| 国产一区二区在线观看日韩| 免费看a级黄色片| 国产av在哪里看| 九九在线视频观看精品| 在线a可以看的网站| 亚洲欧美日韩东京热| 国产精品乱码一区二三区的特点| 熟女电影av网| 国产精品影院久久| 91久久精品电影网| 亚洲va日本ⅴa欧美va伊人久久| 欧美绝顶高潮抽搐喷水| 国产精品99久久久久久久久| 人人妻人人看人人澡| avwww免费| 制服丝袜大香蕉在线| 午夜激情福利司机影院| 国产精品99久久久久久久久| 欧美午夜高清在线| 97超级碰碰碰精品色视频在线观看| 免费无遮挡裸体视频| 亚洲av成人av| 免费黄网站久久成人精品 | 一级黄片播放器| 757午夜福利合集在线观看| 九九久久精品国产亚洲av麻豆| 国产亚洲av嫩草精品影院| 亚洲成av人片在线播放无| 久久精品夜夜夜夜夜久久蜜豆| 久久九九热精品免费| 欧美日本视频| 美女高潮喷水抽搐中文字幕| 精品日产1卡2卡| 亚洲一区二区三区色噜噜| 欧美一区二区亚洲| 国内精品久久久久精免费| 亚洲乱码一区二区免费版| 成人无遮挡网站| 久久久久久久久中文| eeuss影院久久| 毛片女人毛片| 精品福利观看| 有码 亚洲区| 特大巨黑吊av在线直播| 久久精品人妻少妇| 男插女下体视频免费在线播放| 中文字幕高清在线视频| 我的女老师完整版在线观看| 国产亚洲欧美98| 国产视频一区二区在线看| 90打野战视频偷拍视频| 国产 一区 欧美 日韩| 午夜免费成人在线视频| 久久久色成人| 黄色一级大片看看| 我要看日韩黄色一级片| 国产探花在线观看一区二区| 亚洲综合色惰| 老司机福利观看| 91久久精品电影网| 久久6这里有精品| 欧美一级a爱片免费观看看| 国产真实伦视频高清在线观看 | 夜夜躁狠狠躁天天躁| 国产真实伦视频高清在线观看 | 精品国内亚洲2022精品成人| 午夜福利欧美成人| 久久99热6这里只有精品| 99视频精品全部免费 在线| 18禁在线播放成人免费| 国产av麻豆久久久久久久| av欧美777| 亚洲成人久久爱视频| 国产乱人伦免费视频| 亚洲无线在线观看| 亚洲在线自拍视频| 黄色女人牲交| 99热这里只有是精品在线观看 | 99热这里只有是精品在线观看 | xxxwww97欧美| 亚洲成人久久性| 免费搜索国产男女视频| 国产亚洲精品综合一区在线观看| 亚洲18禁久久av| 特大巨黑吊av在线直播| 日本五十路高清| 毛片女人毛片| 国产精品国产高清国产av| 久久久久久久午夜电影| 天堂网av新在线| 少妇丰满av| 中文字幕精品亚洲无线码一区| 国产乱人伦免费视频| 国产一区二区三区在线臀色熟女| 人妻丰满熟妇av一区二区三区| 国产不卡一卡二| 亚洲人与动物交配视频| 久久国产精品影院| 91久久精品国产一区二区成人| 麻豆一二三区av精品| 国产欧美日韩一区二区三| 欧美黄色淫秽网站| 亚洲 国产 在线| 99riav亚洲国产免费| 久久精品国产亚洲av涩爱 | 国产精品国产高清国产av| 亚洲国产欧美人成| 国内精品久久久久精免费| 日本 av在线| 美女 人体艺术 gogo| 亚洲成人免费电影在线观看| 色精品久久人妻99蜜桃| 国产精品国产高清国产av| 九九热线精品视视频播放| 最近最新中文字幕大全电影3| 97人妻精品一区二区三区麻豆| 精品人妻熟女av久视频| 国产精品一区二区性色av| 天天躁日日操中文字幕| 亚洲国产精品合色在线| 国产黄色小视频在线观看| 国产激情偷乱视频一区二区| 国产欧美日韩精品亚洲av| 欧美另类亚洲清纯唯美| 少妇人妻一区二区三区视频| 夜夜夜夜夜久久久久| 每晚都被弄得嗷嗷叫到高潮| 亚洲五月婷婷丁香| 国产老妇女一区| 国产高清有码在线观看视频| 国产亚洲精品av在线| 亚洲18禁久久av| 直男gayav资源| 美女大奶头视频| 欧美日韩福利视频一区二区| 免费在线观看影片大全网站| www.www免费av| 黄色配什么色好看| 超碰av人人做人人爽久久| 啦啦啦韩国在线观看视频| 他把我摸到了高潮在线观看| 国产精品永久免费网站| 久久这里只有精品中国| 免费黄网站久久成人精品 | 老女人水多毛片| avwww免费| 首页视频小说图片口味搜索| 午夜影院日韩av| 国产成人aa在线观看| 久久香蕉精品热| 国内毛片毛片毛片毛片毛片| 成人欧美大片| 国产精品三级大全| 怎么达到女性高潮| 天堂√8在线中文| 又爽又黄a免费视频| 18禁黄网站禁片免费观看直播| 亚洲人成伊人成综合网2020| 国产精品久久久久久亚洲av鲁大| 国产成人av教育| 我的老师免费观看完整版| 18禁裸乳无遮挡免费网站照片| 激情在线观看视频在线高清| 岛国在线免费视频观看| 日韩国内少妇激情av| 极品教师在线免费播放| 精品久久久久久久久久免费视频| 午夜a级毛片| 麻豆av噜噜一区二区三区| 又粗又爽又猛毛片免费看| 嫁个100分男人电影在线观看| 婷婷精品国产亚洲av| 欧美成人性av电影在线观看| 免费看光身美女| 美女xxoo啪啪120秒动态图 | 俺也久久电影网| 老熟妇乱子伦视频在线观看| 中文字幕av在线有码专区| 99久久精品热视频| 精品久久久久久久久久久久久| 在线观看一区二区三区| 精品久久久久久成人av| 国产精品av视频在线免费观看| 91麻豆av在线| 五月伊人婷婷丁香| 亚洲人成网站在线播| 亚洲精品成人久久久久久| 99精品久久久久人妻精品| 亚洲中文字幕一区二区三区有码在线看| 亚洲精品影视一区二区三区av| 黄色一级大片看看| 欧美成人a在线观看| 国产毛片a区久久久久| 一夜夜www| 国产伦一二天堂av在线观看| 国产伦人伦偷精品视频| 国产免费男女视频| 免费大片18禁| 特级一级黄色大片| 亚洲性夜色夜夜综合| 国产激情偷乱视频一区二区| 90打野战视频偷拍视频| 国产熟女xx| 极品教师在线免费播放| 色综合婷婷激情| 男女床上黄色一级片免费看| 丰满人妻熟妇乱又伦精品不卡| 搡女人真爽免费视频火全软件 | 欧美成人性av电影在线观看| 欧美不卡视频在线免费观看| 国模一区二区三区四区视频| 99视频精品全部免费 在线| 97热精品久久久久久| 欧美最新免费一区二区三区 | 99久久99久久久精品蜜桃| 久久久久久大精品| 在线播放无遮挡| 乱人视频在线观看| 两性午夜刺激爽爽歪歪视频在线观看| 欧美激情在线99| 国产毛片a区久久久久| 亚洲欧美日韩卡通动漫| 欧美最新免费一区二区三区 | 免费看光身美女| 最近中文字幕高清免费大全6 | 亚洲国产高清在线一区二区三| 十八禁人妻一区二区| 欧美日韩综合久久久久久 | 精品无人区乱码1区二区| 此物有八面人人有两片| 久久99热6这里只有精品| 日本与韩国留学比较| 热99re8久久精品国产| 亚洲专区中文字幕在线| 两人在一起打扑克的视频| 日韩精品青青久久久久久| 亚洲国产色片| 97碰自拍视频| 麻豆av噜噜一区二区三区| 91字幕亚洲| 亚洲人成电影免费在线| 国产一级毛片七仙女欲春2| 亚洲欧美日韩高清专用| 国内少妇人妻偷人精品xxx网站| 熟女人妻精品中文字幕| 日韩欧美 国产精品| 男人的好看免费观看在线视频| 久久精品91蜜桃| 亚洲欧美日韩高清专用| 日韩精品青青久久久久久| aaaaa片日本免费| 日本五十路高清| 久久久国产成人精品二区| 精品久久久久久久久亚洲 | 看十八女毛片水多多多| 亚洲欧美清纯卡通| 老熟妇仑乱视频hdxx| 少妇人妻精品综合一区二区 | 久99久视频精品免费| 久久精品人妻少妇| 性欧美人与动物交配| 国产一区二区在线观看日韩| 中文字幕人妻熟人妻熟丝袜美| 国产私拍福利视频在线观看| 欧美最黄视频在线播放免费| 我要看日韩黄色一级片| 欧美日韩瑟瑟在线播放| 在线观看午夜福利视频| 免费在线观看影片大全网站| 亚洲人成伊人成综合网2020| 欧美在线黄色| 国产aⅴ精品一区二区三区波| 精品午夜福利在线看| 国产伦精品一区二区三区四那| 亚洲av电影在线进入| 欧美激情国产日韩精品一区| 最近最新免费中文字幕在线| 日本黄大片高清| 亚洲人成电影免费在线| 日本与韩国留学比较| 人妻久久中文字幕网| 丰满的人妻完整版| 欧美潮喷喷水| 在线观看美女被高潮喷水网站 | 欧美一区二区亚洲| h日本视频在线播放| 亚洲欧美清纯卡通| 又粗又爽又猛毛片免费看| 首页视频小说图片口味搜索| 男女做爰动态图高潮gif福利片| 国产又黄又爽又无遮挡在线| 国产三级黄色录像| 一个人看视频在线观看www免费| 免费搜索国产男女视频| 精品一区二区三区人妻视频| xxxwww97欧美| 国产精品av视频在线免费观看| 国产高清三级在线| 一个人免费在线观看的高清视频| 久久久久国产精品人妻aⅴ院| 欧美成人一区二区免费高清观看| 成人毛片a级毛片在线播放| 日本撒尿小便嘘嘘汇集6| 欧美在线黄色| 亚洲av成人精品一区久久| 女生性感内裤真人,穿戴方法视频| 色5月婷婷丁香| 欧美zozozo另类| 日韩中文字幕欧美一区二区| 99热6这里只有精品| 亚洲精品成人久久久久久| av黄色大香蕉| 高清毛片免费观看视频网站| 欧美三级亚洲精品| x7x7x7水蜜桃| 久久亚洲精品不卡| 啦啦啦韩国在线观看视频| 乱人视频在线观看| .国产精品久久| 久9热在线精品视频| 国产男靠女视频免费网站| 精品99又大又爽又粗少妇毛片 | 久久久色成人| 午夜福利18| 丰满人妻熟妇乱又伦精品不卡| 免费高清视频大片| 特级一级黄色大片| 一本久久中文字幕| 人人妻,人人澡人人爽秒播| 欧美日韩亚洲国产一区二区在线观看| 五月玫瑰六月丁香| 国产成+人综合+亚洲专区| 国产精品久久视频播放| 久久热精品热| 校园春色视频在线观看| 长腿黑丝高跟| 两性午夜刺激爽爽歪歪视频在线观看| 俺也久久电影网| 日韩精品青青久久久久久| 老司机福利观看| 88av欧美| 欧美日本视频| 日韩欧美精品免费久久 | 欧美另类亚洲清纯唯美| 久久人人爽人人爽人人片va | 国产亚洲欧美在线一区二区| 久久精品国产亚洲av涩爱 | 日本五十路高清| 日本三级黄在线观看| 变态另类丝袜制服| 少妇的逼水好多| 亚洲aⅴ乱码一区二区在线播放| 999久久久精品免费观看国产| 97超级碰碰碰精品色视频在线观看| 国产高清激情床上av| 亚洲欧美日韩高清在线视频| 天美传媒精品一区二区| 精品一区二区三区视频在线观看免费| 色视频www国产| 亚洲av.av天堂| 校园春色视频在线观看| 亚洲熟妇熟女久久| 日本熟妇午夜| 欧美色视频一区免费| 亚洲国产精品999在线| 99热这里只有精品一区| 女生性感内裤真人,穿戴方法视频| 天天一区二区日本电影三级| 久久性视频一级片| 精品久久久久久,| 国产色爽女视频免费观看| 国产精品精品国产色婷婷| 亚洲av二区三区四区| 日韩 亚洲 欧美在线| 一区福利在线观看| 可以在线观看毛片的网站| 岛国在线免费视频观看| 12—13女人毛片做爰片一| 在线看三级毛片| 国产精品久久久久久精品电影| 可以在线观看毛片的网站| 99国产精品一区二区蜜桃av| ponron亚洲| 99热这里只有精品一区| 久久精品综合一区二区三区| 99久久九九国产精品国产免费| 国产真实乱freesex| 一a级毛片在线观看| 美女被艹到高潮喷水动态| 欧美在线一区亚洲| 91字幕亚洲| 久久精品国产亚洲av天美| 久久久久久大精品| 女同久久另类99精品国产91| 亚洲成a人片在线一区二区| 色吧在线观看| 好看av亚洲va欧美ⅴa在| 美女cb高潮喷水在线观看| 无遮挡黄片免费观看| 国产大屁股一区二区在线视频| 欧美性感艳星| 国产一级毛片七仙女欲春2| 中出人妻视频一区二区| 国产黄a三级三级三级人| 人妻制服诱惑在线中文字幕| 亚洲人成电影免费在线| 国产伦精品一区二区三区视频9| 亚洲中文日韩欧美视频| www.www免费av| 亚洲乱码一区二区免费版| 亚洲av成人精品一区久久| 搡老妇女老女人老熟妇| 91久久精品电影网| 久久伊人香网站| 嫩草影院精品99| 国产老妇女一区| 成人鲁丝片一二三区免费| 亚洲国产欧洲综合997久久,| 国产精品一区二区三区四区免费观看 | 日韩欧美国产一区二区入口| 午夜久久久久精精品| 我要搜黄色片| 国产高潮美女av| 国产久久久一区二区三区| 舔av片在线| 成年女人看的毛片在线观看| 91麻豆av在线| 亚洲av日韩精品久久久久久密| 欧美日韩综合久久久久久 | 国产综合懂色| 搡老妇女老女人老熟妇| 国产精品综合久久久久久久免费| 国内久久婷婷六月综合欲色啪| av在线天堂中文字幕| 国产一区二区三区视频了| 亚洲avbb在线观看| 嫩草影院精品99| 999久久久精品免费观看国产| 亚洲av电影不卡..在线观看| 国产精品日韩av在线免费观看| 国产老妇女一区| 成年女人毛片免费观看观看9| 亚洲,欧美精品.| 亚洲国产精品合色在线| 在线免费观看不下载黄p国产 | 在现免费观看毛片| 国内揄拍国产精品人妻在线| 国产精品不卡视频一区二区 | 亚洲自拍偷在线| 亚洲在线观看片| 天天躁日日操中文字幕| 欧美日本亚洲视频在线播放| 脱女人内裤的视频| 性插视频无遮挡在线免费观看| 久久人人精品亚洲av| 欧美潮喷喷水| 18禁裸乳无遮挡免费网站照片| 精华霜和精华液先用哪个| 波多野结衣巨乳人妻| 国产精华一区二区三区| 男女下面进入的视频免费午夜| 在线观看舔阴道视频| 精品一区二区三区视频在线| 国产免费av片在线观看野外av| 搞女人的毛片| 亚洲人成电影免费在线| 高清日韩中文字幕在线| 久久久久国产精品人妻aⅴ院| 亚洲欧美激情综合另类|