預(yù)測(cè)選擇教與學(xué)優(yōu)化算法的研究及應(yīng)用

馬云鵬 劉詩(shī)琳 董文菊 謝思琪 王子妍 呂定聯(lián)

摘 ?要：教與學(xué)優(yōu)化算法受教學(xué)現(xiàn)象的啟發(fā)而提出，具有收斂速度快和模型參數(shù)少的優(yōu)勢(shì)。為了提高算法的收斂精度和全局搜索能力，提出預(yù)測(cè)選擇教與學(xué)優(yōu)化算法。首先，采用反向?qū)W習(xí)機(jī)制初始化種群個(gè)體位置，保持種群多樣性。然后，在“教階段”設(shè)置慣性權(quán)值和加速系數(shù)，提高算法的運(yùn)算速度和解的質(zhì)量。最后，在“學(xué)階段”并行引入三種種群個(gè)體預(yù)測(cè)機(jī)制，選擇最佳適應(yīng)度值的個(gè)體進(jìn)行下一次的尋優(yōu)，提高算法全局搜索能力。通過(guò)基準(zhǔn)數(shù)學(xué)函數(shù)測(cè)試得到的實(shí)驗(yàn)結(jié)果表明：改進(jìn)算法的收斂精度和解的質(zhì)量?jī)?yōu)于原始教與學(xué)優(yōu)化算法。

關(guān)鍵詞：教與學(xué)優(yōu)化算法;預(yù)測(cè)選擇;反向?qū)W習(xí)機(jī)制;收斂精度

中圖分類號(hào)：TP181 ? ? 文獻(xiàn)標(biāo)識(shí)碼：A

Abstract： Teaching-learning-based Optimization （TLBO） algorithm with fast convergence speed and less parameter， is proposed based on teaching-learning practice. In order to improve convergence accuracy and global search ability of the algorithm， a Prediction-selection Teaching-learning-based Optimization （PSTLBO） algorithm is proposed. First of all， reverse learning mechanism is used to initialize the position of population individuals and to maintain population diversity. Then， inertia weight and accelerating factor are set in teaching phase to improve calculation speed and solution quality. Finally， in learning phase， three kinds of population prediction mechanisms are introduced in parallel and the individual with the best fitness value is selected for the next optimization， which improves the global search ability of the algorithm. Through benchmark mathematical function test， the experimental results show that convergence accuracy and solution quality the improved algorithm are better than the original teaching-learning optimization algorithm.

Keywords： teaching-learning-based optimization algorithm; predictive selection; reverse learning mechanism;?? ? ? ? ? ? ? ? ? ? ?convergence accuracy

1 ? 引言（Introduction）

基于真實(shí)班級(jí)教學(xué)現(xiàn)象的啟發(fā)，RAO教授于2010年提出教與學(xué)優(yōu)化（Teaching-learning-based optimization， TLBO）算法，其屬于啟發(fā)式群智能優(yōu)化算法[1]。TLBO算法計(jì)算規(guī)則簡(jiǎn)單，運(yùn)行參數(shù)較少，全局搜索能力良好，近年來(lái)引起國(guó)內(nèi)外研究學(xué)者的廣泛關(guān)注[2-6]。但是，TLBO算法仍然存在一些缺點(diǎn)，如其善于解決單峰函數(shù)問(wèn)題，對(duì)于多峰函數(shù)易陷入局部最優(yōu)點(diǎn);在算法運(yùn)行后期，種群個(gè)體靠近最優(yōu)解，導(dǎo)致種群多樣性丟失;收斂精度和收斂速度還可進(jìn)一步提升等。

針對(duì)上述不足，文獻(xiàn)[7]運(yùn)用動(dòng)態(tài)分組機(jī)制來(lái)提高TLBO算法的全局搜索能力;文獻(xiàn)[8]引入局部學(xué)習(xí)機(jī)制和自學(xué)習(xí)機(jī)制來(lái)提高TLBO算法的搜索能力;文獻(xiàn)[9]應(yīng)用反向?qū)W習(xí)機(jī)制和類反向?qū)W習(xí)機(jī)制提高TLBO算法的收斂速度和解的質(zhì)量;文獻(xiàn)[10]設(shè)計(jì)慣性權(quán)值和加速權(quán)值來(lái)提高TLBO算法的收斂速度和解的質(zhì)量;文獻(xiàn)[11]通過(guò)對(duì)教師個(gè)數(shù)的設(shè)置和教學(xué)系數(shù)的改進(jìn)，并引入自學(xué)習(xí)機(jī)制來(lái)提高TLBO算法的性能。

為了進(jìn)一步增強(qiáng)TLBO算法的收斂精度和全局搜索能力，本文提出一種預(yù)測(cè)選擇教與學(xué)優(yōu)化算法（Prediction-Selection Teaching-Learning-Based Optimization， PSTLBO）。該算法引入三種改進(jìn)機(jī)制：（1）應(yīng)用反向?qū)W習(xí)機(jī)制初始化種群個(gè)體位置，保持種群多樣性，增強(qiáng)探索能力;（2）在“教階段”引入慣性權(quán)值和加速系數(shù)，提高算法的運(yùn)行速度;（3）在“學(xué)階段”，引入預(yù)測(cè)選擇機(jī)制，即預(yù)先設(shè)計(jì)三種種群個(gè)體位置更新機(jī)制，更新后選擇適應(yīng)度值最優(yōu)個(gè)體作為下一次迭代的解，可以提高全局搜索能力。為了驗(yàn)證改進(jìn)算法的性能，采用十個(gè)基準(zhǔn)數(shù)學(xué)函數(shù)進(jìn)行測(cè)試，同時(shí)與人工蜂群算法[12]、萬(wàn)有引力算法[13]和原始教與學(xué)優(yōu)化算法做對(duì)比，實(shí)驗(yàn)結(jié)果表明，預(yù)測(cè)選擇教與學(xué)優(yōu)化算法具有良好的收斂精度和全局搜索能力等性能。

2 ?教與學(xué)優(yōu)化算法（Teaching-learning-based optimization algorithm）

TLBO算法的思想是：選擇學(xué)習(xí)成績(jī)最好的個(gè)體作為老師，老師通過(guò)“教”來(lái)提高班級(jí)的平均成績(jī);學(xué)生既向老師獲得知識(shí)，又與其他人進(jìn)行交流，最終提高自身成績(jī)。因此，TLBO包括兩個(gè)階段：“教階段”和“學(xué)階段”。該算法的計(jì)算步驟概括如下：

（1）定義優(yōu)化問(wèn)題，初始化算法參數(shù)、種群規(guī)模和終止條件等。

（2）“教階段”。種群個(gè)體位置更新公式如式（1）—式（3）所示。

上述公式中，為教學(xué)系數(shù)，啟發(fā)步長(zhǎng)，取1或2;為隨機(jī)數(shù)，;為平均成績(jī);為第個(gè)個(gè)體的適應(yīng)度值。

3 ? 預(yù)測(cè)選擇教與學(xué)優(yōu)化算法（Prediction-selection TLBO algorithm）

在原始TLBO算法的基礎(chǔ)上，本部分設(shè)計(jì)預(yù)測(cè)選擇教與學(xué)優(yōu)化算法。首先，對(duì)種群個(gè)體初始化方式進(jìn)行改進(jìn)，運(yùn)用反向?qū)W習(xí)機(jī)制初始化種群個(gè)體位置;然后，在“教階段”引入兩種權(quán)值，即慣性權(quán)值和加速系數(shù);最后，在“學(xué)階段”提出預(yù)測(cè)選擇機(jī)制更新種群個(gè)體位置。該算法的具體實(shí)現(xiàn)過(guò)程如下所述。

3.1 ? 反向?qū)W習(xí)機(jī)制初始化個(gè)體

假設(shè)在維搜索空間中存在一點(diǎn)，

在初始化種群個(gè)體時(shí)，采用反向?qū)W習(xí)機(jī)制在解空間范圍內(nèi)將產(chǎn)生 個(gè)個(gè)體，從中選擇 個(gè)最優(yōu)個(gè)體作為初始種群個(gè)體。通過(guò)反向?qū)W習(xí)機(jī)制對(duì)個(gè)體初始化，可以保持種群多樣性，有利于提高全局搜索能力，更容易接近最優(yōu)解。

3.2 ? 教階段

其中，是慣性權(quán)值，控制著的影響;是加速系數(shù)，提高“教階段”的搜索速度;是第 個(gè)學(xué)生的適應(yīng)度值;是第一次迭代中最大的適應(yīng)度值;是當(dāng)前的迭代次數(shù)。

3.3 ? 學(xué)階段

在“學(xué)階段”，引入三種不同形式的種群個(gè)體更新機(jī)制，稱之為預(yù)測(cè)選擇機(jī)制，如式（10）所示。由式（10）可知，每一個(gè)更新算子與當(dāng)前最優(yōu)解、個(gè)體自身信息或隨機(jī)選擇的某個(gè)個(gè)體信息有關(guān)。該機(jī)制預(yù)先產(chǎn)生三個(gè)個(gè)體

4 ? 性能測(cè)試（Performance testing）

為了驗(yàn)證PSTLBO算法的性能，應(yīng)用10 個(gè)基準(zhǔn)數(shù)學(xué)函數(shù)測(cè)試算法的收斂精度和搜索速度，測(cè)試函數(shù)記錄于表1。此外，將預(yù)測(cè)選擇教與學(xué)優(yōu)化算法（PSTLBO）與人工蜂群算法（ABC）、萬(wàn)有引力搜索算法（GSA）、原始教與學(xué)算法（TLBO）進(jìn)行比較，各算法的參數(shù)設(shè)置如表2所示，實(shí)驗(yàn)結(jié)果記錄于表3。

由表1可知，f1-f6為單峰高維函數(shù)，f7-f10為多峰高維函數(shù)，同時(shí)給出函數(shù)的最優(yōu)點(diǎn)和自變量的取值范圍。表2給出四種智能優(yōu)化算法的參數(shù)設(shè)置，每個(gè)仿真運(yùn)行30 次，每一種算法單次運(yùn)行迭代1，000 次，運(yùn)行結(jié)果記錄于表3，最優(yōu)值加粗顯示。如表3所示，每一個(gè)基準(zhǔn)函數(shù)的維數(shù)依次設(shè)置為10 維、30 維、50 維，從運(yùn)行結(jié)果來(lái)看，PSTLBO算法能夠找到在不同維度下的最優(yōu)值或理論最優(yōu)值，說(shuō)明PSTLBO具有良好的收斂精度。為了更直觀地顯示實(shí)驗(yàn)結(jié)果，分別給出在10 維和在50 維時(shí)的仿真圖，如圖2和圖3所示。由圖2和圖3可知，PSTLBO具有收斂速度快和收斂精度高的性能。

5 ? 結(jié)論（Conclusion）

為了進(jìn)一步提高教與學(xué)優(yōu)化算法的收斂精度和解的質(zhì)量，分別對(duì)種群個(gè)體初始化方式，以及“教階段”和“學(xué)階段”的種群個(gè)體位置更新方式進(jìn)行修正。運(yùn)用反向?qū)W習(xí)機(jī)制初始化種群個(gè)體，使之更容易接近最優(yōu)解和增加種群多樣性。預(yù)測(cè)選擇更新算子的引入，可有效平衡算法的探索能力和開發(fā)能力。通過(guò)與其他算法在基準(zhǔn)測(cè)試函數(shù)上的性能對(duì)比，說(shuō)明PSTLBO具有良好的收斂速度和收斂精度，解的質(zhì)量得到提高。

今后，PSTLBO算法的性能將進(jìn)一步提高，并應(yīng)用于工程優(yōu)化問(wèn)題中。同時(shí)，基于PSTLBO算法，設(shè)計(jì)多目標(biāo)PSTLBO算法。

參考文獻(xiàn)（References）

[1] RAO R V， SAVSANI V J， VAKHARIA D P. Teaching–learning-based optimization： A novel method for constrained mechanical design optimization problems[J]. Computer-Aided Design， 2011， 43（3）：303-315.

[2] KUMAR Y， SINGH P K. A chaotic teaching learning based optimization algorithm for clustering problems[J]. Applied Intelligence， 2019， 49（3）：1036-1062.

[3] 于坤杰，王昕，王振雷.基于反饋的精英教學(xué)優(yōu)化算法[J].自動(dòng)化學(xué)報(bào)，2014，40（9）：1976-1983.

[4] MA Y， ZHANG X， SONG J， et al. A modified teaching-learning-based optimization algorithm for solving optimization problem[J]. Knowledge-Based Systems， 2021， 212：106599.

[5] LI S， GONG W， YAN X， et al. Parameter extraction of photovoltaic models using an improved teaching-learning-based optimization[J]. Energy Conversion and Management， 2019， 186：293-305.

[6] 拓守恒，鄧方安，雍龍泉.改進(jìn)教與學(xué)優(yōu)化算法的LQR控制器優(yōu)化設(shè)計(jì)[J].智能系統(tǒng)學(xué)報(bào)，2014 （5）：602-607.

[7] ZOU F， WANG L， HEI X， et al. Teaching–learning-based optimization with dynamic group strategy for global optimization[J]. Information Sciences， 2014， 273：112-131.

[8] CHEN D， LU R， ZOU F， et al. Teaching-learning-based optimization with variable-population scheme and its application for ANN and global optimization[J]. Neurocomputing， 2016， 173（P3）：1096-1111.

[9] SULTANA S， ROY P K. Multi-objective quasi-oppositional teaching learning based optimization for optimal location of distributed generator in radial distribution systems[J]. International Journal of Electrical Power and Energy Systems， 2014， 63（12）：534-545.

[10] LI G， NIU P， ZHANG W， et al. Model NOx emissions by least squares support vector machine with tuning based on ameliorated teaching-learning-based optimization[J]. Chemometrics and Intelligent Laboratory Systems， 2013， 126（8）：11-20.

[11] RAO R V， PATEL V. Multi-objective optimization of two stage thermoelectric cooler using a modified teaching-learning-based optimization algorithm[J]. Engineering Applications of Artificial Intelligence， 2013， 26（1）：430-445.

[12] KARABOGA D， GORKEMLI B. A quick artificial bee colony （qABC） algorithm and its performance on optimization problems[J]. Applied Soft Computing， 2014， 23：227-238.

[13] YAZDANI S， NEZAMABADI P H， KAMYAB S. A gravitational search algorithm for multimodal optimization[J]. Swarm and Evolutionary Computation， 2014， 14：1-14.

作者簡(jiǎn)介：

馬云鵬（1989-），男，博士，講師.研究領(lǐng)域：機(jī)器學(xué)習(xí)，仿生智能計(jì)算.本文通訊作者.

劉詩(shī)琳（2000-），女，本科生.研究領(lǐng)域：仿生智能計(jì)算.

董文菊（2001-），女，本科生.研究領(lǐng)域：仿生智能計(jì)算.

謝思琪（1999-），女，本科生.研究領(lǐng)域：神經(jīng)網(wǎng)絡(luò).

王子妍（2001-），女，本科生.研究領(lǐng)域：特征提取.

呂定聯(lián)（2001-），女，本科生.研究領(lǐng)域：數(shù)據(jù)挖掘.