摘要:針對(duì)傳統(tǒng)花朵授粉算法(flower pollination algorithm,F(xiàn)PA)受初始參數(shù)影響較大、且易陷入局部最優(yōu)解或算法無法收斂等問題,提出一種基于量子行為的花朵授粉算法(quantum-inspired flower pollination algorithm,QFPA).通過引入量子系統(tǒng)到FPA中,使授粉過程中的搜索更高效,從而提高全局搜索能力。此外,還引入軌跡分析,使種群能更好地逃離局部最優(yōu)解,進(jìn)一步降低誤差。為驗(yàn)證該方法的有效性,先通過選定的幾個(gè)基準(zhǔn)函數(shù)對(duì)QFPA進(jìn)行評(píng)估,然后采用評(píng)估效果最好的QFPA對(duì)長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)模型超參數(shù)進(jìn)行尋優(yōu),最后在用自適應(yīng)噪聲完備集合經(jīng)驗(yàn)?zāi)B(tài)分解(complete ensemble empirical mode decomposition with adaptive noise,CEEMDAN)算法去除噪聲后的空氣質(zhì)量數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn),并與其他幾種常用的優(yōu)化算法進(jìn)行對(duì)比,實(shí)驗(yàn)結(jié)果表明:QFPA提高了優(yōu)化算法的全局搜索能力和收斂性;QFPA-LSTM模型增強(qiáng)了長(zhǎng)時(shí)間序列數(shù)據(jù)預(yù)測(cè)的準(zhǔn)確性和效率,該模型預(yù)測(cè)的均方根誤差為10.93μg/m3,為實(shí)際應(yīng)用中的空氣質(zhì)量預(yù)測(cè)提供了可靠的解決方案.
關(guān)鍵詞:花朵授粉算法;量子行為花朵授粉算法;CEEMDAN算法;LSTM模型
中圖分類號(hào):TP18文獻(xiàn)標(biāo)志碼:A文章編號(hào):1671-5489(2024)05-1163-16
Optimizing LSTM Model Based on Quantum-InspiredFlower Pollination Algorithm
LI Rujia,HEYiting,JIRongbiao,LIYadong,SUNXiaohai,CHENJiaojiao,WUYehui,WANGCanyu
(College of Big Data,Yunnan Agricultural University,Kunming 650201,China)
Abstract:Aiming at the problem that the traditional flower pollination algorithm FPA)was significantly affected by initial parameters and prone to local optima or convergence failures,we proposed a quantum-inspired flower pollination algorithm QFPA).By incorporating quantum systems into the FPA,the pollination search process was made more efficient,thereby improving global search capabilities.Additionally,trajectory analysis was employed to better enable the population to escape from local optima and further reduce errors.In order to verify the effectiveness of the method,firstly,the QFPA was evaluated using selected benchmark functions.Secondly,the best evaluated QFPA was used to optimize the hyperparameters of the long short-term memory network(LSTM)model.Finally,the experiments were conducted on an air quality dataset after removingnoise using the complete ensemble empirical mode decomposition with adaptive noise(CEEMDAN)algorithm,and compared with several other commonly used optimization algorithms.The experimental results show that QFPA enhances the global search capability and convergence properties of optimization algorithms.The QFPA-LSTM model improves the accuracy and efficiency of long-term time series predictions,with a root mean square error of 10.93 ug/m,thus providing a reliable solution for air quality prediction in practical applications.
Keywords:flower pollination algorithm;quantum-inspired flower pollination algorithm;CEEMDANalgorithm;LSTM model
近年來,隨著科學(xué)技術(shù)的快速發(fā)展,仿生算法備受關(guān)注.其中,遺傳算法(genetic algorithm,GA)[2]、麻雀搜索算法(sparrow search algorithm,SSA)[3]、灰狼優(yōu)化(grey wolf optimizer,GWO)算法[4]、粒子群優(yōu)化(particle swarm optimization,PSO)算法[56]和細(xì)菌覓食優(yōu)化算法(bacterial foraging optimization algorithm,BFOA)]等群體智能算法因其全局搜索、并行計(jì)算、高效性和通用性等優(yōu)點(diǎn),廣泛應(yīng)用于工程優(yōu)化、科學(xué)計(jì)算等領(lǐng)域.但這些算法仍存在受初始參數(shù)影響較大、易陷入局部最優(yōu)解等問題.例如,姚光磊等]針對(duì)花朵授粉算法(flower pollination algorithm,F(xiàn)PA)在解決高維度問題時(shí)存在收斂速度慢和收斂精度低的問題,提出了一種混合多種策略的花朵授粉算法(multi-strategyflower pollination algorithm,MFPA),該算法在收斂速度和精度方面性能更好.Wu等提出了低差異采樣的PSO算法技術(shù)擴(kuò)展的維度空間,實(shí)驗(yàn)結(jié)果表明優(yōu)化后的算法在相同精度下收斂速度明顯更快.
機(jī)器學(xué)習(xí)在自然語言處理、圖像識(shí)別1等領(lǐng)域已取得了顯著成就,目前,已將智能優(yōu)化算法與長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)(LSTM)模型[12]相結(jié)合引入數(shù)據(jù)預(yù)測(cè)領(lǐng)域.例如:Kara[3]介紹了一種結(jié)合LSTM神經(jīng)網(wǎng)絡(luò)和GA的混合方法,用于多步驟流感暴發(fā)預(yù)測(cè)問題,采用LSTM模型克服流感預(yù)測(cè)中的復(fù)雜性和非線性問題;Prasanth等開發(fā)了一種混合GWO-LSTM模型,其使用灰狼優(yōu)化器(GWO)15]優(yōu)化LSTM網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù),并將該模型的結(jié)果與包括自回歸積分移動(dòng)平均線(ARIMA)在內(nèi)的基線模型進(jìn)行對(duì)比,對(duì)比結(jié)果表明該模型在預(yù)測(cè)感染傳播的未來趨勢(shì)方面性能更好;He等[6]提出了一種PSO-LSTM方法,該方法結(jié)合了粒子游動(dòng)優(yōu)化和長(zhǎng)短期記憶技術(shù),旨在提高模型的預(yù)測(cè)精度和性能,用于電子商務(wù)公司的銷售預(yù)測(cè),實(shí)驗(yàn)結(jié)果表明,PSO-LSTM模型在預(yù)測(cè)精度方面效果較好.為解決單一的群體智能算法易陷入局部最優(yōu)解,超參數(shù)不易尋優(yōu)以及收斂速度慢等問題,本文提出一種新的花朵授粉算法(quantum-inspired flower pollination algorithm,QFPA),該算法在FPA7中引入量子系統(tǒng),以增強(qiáng)算法跳出局部最優(yōu)解的能力.
為驗(yàn)證本文算法的有效性,對(duì)云南省昆明市空氣質(zhì)量進(jìn)行了預(yù)測(cè)實(shí)驗(yàn).首先對(duì)QFPA的性能進(jìn)行基準(zhǔn)函數(shù)集驗(yàn)證],然后采用QFPA-LSTM模型預(yù)測(cè)昆明市的空氣質(zhì)量.通過對(duì)比GWO算法、PSO算法、FPA、GA和QFPA等5種優(yōu)化算法,對(duì)LSTM模型[20]的參數(shù)進(jìn)行優(yōu)化.結(jié)果表明,相對(duì)于其他算法,本文算法展現(xiàn)了較好的超參數(shù)尋優(yōu)能力和更高的收斂性,此外,該模型的應(yīng)用有助于更準(zhǔn)確地預(yù)測(cè)昆明市的空氣質(zhì)量,可為環(huán)保政策制定和公眾健康保障提供重要的決策支持.
1方法
將自適應(yīng)噪聲完備集合經(jīng)驗(yàn)?zāi)B(tài)分解(complete ensemble empirical mode decomposition with adaptive noise,CEEMDAN)算法[1處理過的空氣質(zhì)量數(shù)據(jù)用于本文算法優(yōu)化過的LSTM模型中,如圖1所示.主要步驟如下:
1)用CEEMDAN算法將原始6個(gè)特征數(shù)據(jù)(PM2.5,PM10,SO2,CO,NO2,O3_8h)分解為IMFs分量,去掉最后一個(gè)殘差I(lǐng)MF,然后進(jìn)行重構(gòu).
2)根據(jù)異花授粉設(shè)定初始化參數(shù),設(shè)切換概率p=0.5.
3)通過遍歷所有的粒子,將其當(dāng)前位置保存在一個(gè)矩陣S中,并計(jì)算S的平均值,得到全局最優(yōu)解的位置GlobalBest.
4)根據(jù)隨機(jī)數(shù)生成器生成的隨機(jī)數(shù),決定粒子采用哪種更新策略,如果生成的隨機(jī)數(shù)小于0.5,則采用量子行為更新粒子位置;否則,采用標(biāo)準(zhǔn)的花朵授粉中異花傳粉更新粒子位置
5)根據(jù)更新后的位置判斷限制范圍,其中1b為上線,ub為下線.
6)判斷是否達(dá)到了終止條件.若已達(dá)到,則可以獲得最優(yōu)參數(shù);如果尚未達(dá)到終止條件,則返回步驟3)進(jìn)行下一輪迭代.
7)當(dāng)QFPA達(dá)到最大迭代次數(shù)時(shí),提取最優(yōu)參數(shù)并用于訓(xùn)練LSTM模型,以生成對(duì)空氣質(zhì)量指數(shù)(AQI)的預(yù)測(cè).
8)程序結(jié)束,輸出最優(yōu)結(jié)果.
1.1 CEEMDAN算法
CEEMDAN算法可較好地解決經(jīng)驗(yàn)?zāi)B(tài)分解(EEMD)[22]存在的模態(tài)混疊現(xiàn)象[23],分解過程如下.
首先,將信號(hào)分解成一組固有的模態(tài)函數(shù)(IMFs),對(duì)于一個(gè)信號(hào)x(t),CEEMDAN算法可將其分解成一組局部振蕩函數(shù)IMF:
其中R(t)為剩余項(xiàng).IMF\"是由信號(hào)x(t)通過一系列迭代過程得到的局部振蕩函數(shù),滿足以下3個(gè)條件:
1)在信號(hào)的局部極值點(diǎn)上,IMF的上下波動(dòng)次數(shù)相同,且無任何尖銳跳躍點(diǎn);
2)IMF的帶寬隨時(shí)間縮?。?/p>
3)對(duì)IMFs進(jìn)行振幅調(diào)整.
CEEMDAN算法使用自適應(yīng)數(shù)據(jù)調(diào)整策略使IMFs的振幅更穩(wěn)定,該策略包括:
1)測(cè)定每個(gè)IMF的振幅范圍;
2)如果IMF的振幅超出了預(yù)測(cè)范圍,則對(duì)其進(jìn)行調(diào)整;
3)對(duì)一些特殊情況,如當(dāng)信號(hào)是平穩(wěn)的或是周期的,算法則停止調(diào)整;4)重構(gòu)信號(hào).
其次,通過將IMFs相加重構(gòu)原始信號(hào):
CEEMDAN分解是一種常用的信號(hào)分解方法,可有效提取信號(hào)中的特征信息,去除噪聲和雜波等干擾.在CEEMDAN分解中,對(duì)輸入信號(hào)進(jìn)行分解和重構(gòu),步驟如下:
1)定義6個(gè)樣本信號(hào)和測(cè)試集信號(hào),并生成時(shí)間序列t;
2)設(shè)置CEEMDAN分解的參數(shù),包括標(biāo)準(zhǔn)差、迭代次數(shù)、最大迭代次數(shù)和信噪比標(biāo)志等;3)對(duì)每個(gè)信號(hào)進(jìn)行CEEMDAN分解,并保存每個(gè)信號(hào)的各IMF模態(tài)和迭代次數(shù);
4)對(duì)每個(gè)信號(hào)的各IMF模態(tài)進(jìn)行處理,去除最后一個(gè)IMF,然后進(jìn)行重構(gòu),得到重構(gòu)信號(hào).
CEEMDAN是一種非常有效的信號(hào)分解方法,可以將信號(hào)分解為多個(gè)局部模態(tài),并可以適應(yīng)不同信號(hào)的頻率和幅度特征.
1.2花朵授粉優(yōu)化算法
花朵授粉算法[24]有自花授粉和異花授粉兩種形式,是模擬花朵授粉繁殖這一自然現(xiàn)象而產(chǎn)生的一種智能仿生優(yōu)化算法.異花授粉通過傳粉者遠(yuǎn)距離傳播花粉的方式進(jìn)行,因此它對(duì)應(yīng)于算法的全局搜索過程;自花授粉是授粉物理位置較近的一種方式,因此對(duì)應(yīng)于算法的局部搜索過程.為平衡全局搜索過程與局部搜索過程間的比例,引入一個(gè)切換概率p(p∈[0,1]).該算法將自然界的異花授粉和自花授粉分別映射為算法的全局搜索過程和局部搜索過程,并通過控制切換概率p(p∈01])改變授粉方式.在該過程中,花恒常性是一個(gè)重要的概念,它是指在授粉過程中兩朵花的繁殖概率與相似度的比例,有些傳粉者會(huì)因?yàn)榱?xí)慣性地傳播某種花的花粉而忽略其他花朵,為更好地模擬自然界的授粉過程,算法引入了Levy飛行,用于在全局捜索過程中跳出局部最優(yōu)解.通過切換概率(p∈[0,1)算法能在全局搜索和局部搜索過程之間進(jìn)行平衡,從而更高效地完成授粉任務(wù).算法實(shí)現(xiàn)過程如下.
隨機(jī)生成一個(gè)規(guī)模為R的種群,種群中的第i個(gè)花粉用向量X1=(X+X2,·.,X,.·,XD)表示,其中Xa(=1,2……,D)表示第i個(gè)花粉第維的位置,D表示求解問題的維數(shù).自花授粉-局部搜索過程為
其中:x+1表示第(t+1)代的花粉個(gè)體是由x第t代的花粉個(gè)體與隨機(jī)選擇的個(gè)體相互交叉得到的;x,x為種群中的兩個(gè)隨機(jī)個(gè)體,但不是花粉個(gè)體;ε為[0,1]上均勻分布的隨機(jī)數(shù).異花授粉-全局搜索過程為
其中:g.為最優(yōu)花粉;x+1表示第(t+1)代的花粉個(gè)體是由x第t代的花粉個(gè)體與隨機(jī)選擇的個(gè)體相互交叉得到的;L為控制參數(shù),其為一個(gè)D維授粉強(qiáng)度向量,每維均是服從Lévy分布的隨機(jī)數(shù),計(jì)算公式為
Γ(1)為標(biāo)準(zhǔn)Gamma函數(shù),經(jīng)多次實(shí)驗(yàn)取其最優(yōu)值為λ=1.5.
1.3量子行為花朵授粉優(yōu)化算法
QFPA是一種用于解決連續(xù)優(yōu)化問題的群體智能算法,是改進(jìn)的花朵授粉算法,其中包括了經(jīng)典花朵授粉算法中的隨機(jī)授粉和花粉飛行過程,以及粒子群優(yōu)化算法中的粒子移動(dòng)過程.在該算法中,每個(gè)搜索代理表示一朵花,每次迭代開始時(shí),首先計(jì)算出所有花的平均位置:
其中M表示搜索體系的個(gè)體數(shù)量,i表示迭代次數(shù),s表示粒子的最優(yōu)位置,m表示搜索體系中所有個(gè)體位置的平均值.
當(dāng)randlt;0.5時(shí),用
計(jì)算高維空間中的步長(zhǎng),其中為變量,Γ為Gamma函數(shù).用u,v表示與第i個(gè)花粉當(dāng)前位置大小相同的隨機(jī)變量,每個(gè)元素都服從正態(tài)分布,計(jì)算公式為
迭代中移動(dòng)的步長(zhǎng)可表示為
之后生成一個(gè)介于1和SearchAgents_no=30之間的隨機(jī)整數(shù)RJ,RJ向上取整,以確保RJ≠i.
粒子位置的更新過程可表示為
其中X表示第t代的花粉個(gè)體,x表示全局最優(yōu)解的位置,p表示與粒子t不同的隨機(jī)粒子RJ的位置.首先,通過隨機(jī)數(shù)r和當(dāng)前粒子的位置計(jì)算一個(gè)隨機(jī)項(xiàng),然后與全局最優(yōu)解的位置相乘得到一項(xiàng),再將步長(zhǎng)項(xiàng)乘以粒子與隨機(jī)粒子之間的位置差,最后將這兩項(xiàng)相加得到步長(zhǎng)L1.該步長(zhǎng)用來更新粒子的位置:
其中L1表示步長(zhǎng),a為常數(shù)0.01,y為一個(gè)隨機(jī)數(shù),X+1表示第(t+1)代的花粉個(gè)體,在上述更新過程中引入了隨機(jī)性,其中y是一個(gè)隨機(jī)數(shù),通過將其用于ln一的計(jì)算,使粒子位置的更新有一定的隨機(jī)性,以增加搜索的多樣性.
QFPA中的粒子行為受花朵授粉算法和量子行為的啟發(fā).花朵授粉算法用于調(diào)整粒子移動(dòng),而量子行為則用于確定粒子的速度和方向,故針對(duì)花朵授粉算法進(jìn)行如下改進(jìn):
其中L為控制參數(shù),是一個(gè)D維授粉強(qiáng)度向量,每維均是服從Lévy飛行分布的隨機(jī)數(shù).
量子行為花朵授粉優(yōu)化算法是對(duì)傳統(tǒng)花朵授粉算法的改進(jìn),主要有以下3點(diǎn)改進(jìn).
1)引入量子行為概念:QFPA將每個(gè)搜索個(gè)體視為粒子,可以賦予它們不同的量子態(tài),從而增強(qiáng)其跳出局部最優(yōu)解的能力,提高全局搜索能力.
2)引入軌跡分析概念:QFPA可以對(duì)搜索軌跡進(jìn)行分析和評(píng)估,從而動(dòng)態(tài)調(diào)整花朵的適應(yīng)度,增強(qiáng)其選擇和更新的動(dòng)力,提高搜索效率.
3)更好的收斂性能:QFPA中的量子行為能增加算法的隨機(jī)性,從而使種群能更好地逃離局部最優(yōu)解,進(jìn)一步提高收斂性能.
QFPA采用了多次迭代的方式,通過不斷更新粒子位置和速度,尋找適應(yīng)度函數(shù)的最優(yōu)解.與其他傳統(tǒng)的優(yōu)化算法相比,QFPA具有較強(qiáng)的全局搜索能力和收斂性能,能很好地應(yīng)用于非線性、高維、多峰、非凸等復(fù)雜問題的求解.
1.4LSTM模型
LSTM網(wǎng)絡(luò)是一種循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN),用于解決現(xiàn)實(shí)世界中的時(shí)間序列問題.研究表明,LSTM網(wǎng)絡(luò)具有長(zhǎng)期學(xué)習(xí)的能力依賴性并能克服梯度消失和爆炸的問題[2526].LSTM網(wǎng)絡(luò)由存儲(chǔ)單元組成,可在每個(gè)時(shí)間步對(duì)信息進(jìn)行維護(hù)和調(diào)整.這些單元由遺忘門、輸入門和輸出門組成,如圖2所示.
在每個(gè)時(shí)間步驟t中,單元格狀態(tài)c_t和輸出h_t使用前一個(gè)時(shí)間步驟的輸入x_t和輸出h_{t-1}計(jì)算.LSTM 層的第一步是確定從前一個(gè)單元格狀態(tài)c_{t-1}中刪除哪些信息.遺忘門中的該過程計(jì)算公式為
ft =Sigmoid(bf +Wf,hht-1 +Wf,hxt). (15) 第二步是確定在單元格狀態(tài)中存儲(chǔ)哪些信息.該階段包括計(jì)算激活值和計(jì)算新的候選值ct兩個(gè)過程:
在下一步中,新的單元格狀態(tài)ct通過下式計(jì)算:
輸出門的輸出h2計(jì)算公式如下:
上述過程在每個(gè)時(shí)間步驟中都是重復(fù)的.通過LSTM模型學(xué)習(xí)權(quán)重參數(shù)W和偏差參數(shù)b,以最小化估計(jì)值與實(shí)際值之間的差異.
本文采用多種智能化算法(包括GWO算法、PSO算法、FPA、GA和QFPA),用于對(duì)LSTM模型中的參數(shù)進(jìn)行優(yōu)化,包括初始學(xué)習(xí)率、最大迭代次數(shù)、最小批量尺度以及隱藏層單元數(shù).通過這些算法,旨在提高LSTM模型的性能和預(yù)測(cè)準(zhǔn)確度.
2實(shí)驗(yàn)
2.1數(shù)據(jù)來源及處理
本文以云南省昆明市的空氣質(zhì)量為研究對(duì)象,該市是云南省主要發(fā)展城市,在工業(yè)占比較大、能源結(jié)構(gòu)不合理、機(jī)動(dòng)車數(shù)量飛速增長(zhǎng)等多種因素的共同影響下,導(dǎo)致空氣污染治理任務(wù)很艱巨[27-28].因此,研究云南省昆明市的空氣質(zhì)量對(duì)當(dāng)前大氣污染治理和預(yù)防具有重要意義.
本文使用的空氣質(zhì)量數(shù)據(jù)來自中國(guó)環(huán)境監(jiān)測(cè)總站(網(wǎng)站),采用昆明市2013-12-02-2021-12-05期間每天的空氣質(zhì)量數(shù)據(jù),包括PM2.5,PM10,SO2,CO,NO2,O3_8h,AQI和日期,共2927條數(shù)據(jù),其中2340條數(shù)據(jù)作為訓(xùn)練集,587條數(shù)據(jù)作為測(cè)試集,數(shù)據(jù)缺失部分采用線性插值法處理并歸一化到[0,1]內(nèi).開始幾天空氣中各氣體濃度的數(shù)據(jù)列于表1.
將本文數(shù)據(jù)中6個(gè)特征PM2.5,PM10,SO2,CO,NO2,O3_8h利用CEEMDAN算法進(jìn)行分解降噪.由于原數(shù)據(jù)序列有較大的波動(dòng)性和非平穩(wěn)性,因此利用CEEMDAN算法對(duì)原始數(shù)據(jù)進(jìn)行分解,得到IMFs和一個(gè)剩余項(xiàng).本文選擇不保存最后一個(gè)IMF,因?yàn)樽詈笠粋€(gè)IMF是殘差I(lǐng)MF,它是原始信號(hào)無法分解出的部分分解參數(shù),不包含原始信號(hào)的有效信息,故舍棄.然后由4個(gè)參數(shù)Nstd,NR,MaxIter和SNRFlag控制,對(duì)每個(gè)信號(hào)進(jìn)行重構(gòu),即將所有的IMF(不包括最后一個(gè)IMF)相加得到原始信號(hào)的近似值,并將其存儲(chǔ)在outputn矩陣中,經(jīng)過CEEMDAN算法去噪后重構(gòu)信號(hào)變得稀疏,達(dá)到了預(yù)期效果.
2.2模型評(píng)價(jià)
為評(píng)估算法模型的預(yù)測(cè)性能,本文采用均方根誤差(RMSE)、平均絕對(duì)誤差(MAE)和擬合度R2作為評(píng)價(jià)指標(biāo),計(jì)算公式分別為
其中y和y分別表示第i次測(cè)試的實(shí)際值和算法模型輸出值,n為測(cè)試總次數(shù),y為輸出的平均值.MAE和RMSE的值越小,模型預(yù)測(cè)效果越好,R2的值越接近1,預(yù)測(cè)模型對(duì)實(shí)際觀測(cè)值的擬合程度越高.
2.3基準(zhǔn)測(cè)試
本文選擇各種數(shù)值優(yōu)化函數(shù)和問題測(cè)試QFPA的效果.所選擇的測(cè)試函數(shù)包括單峰函數(shù)和多峰函數(shù),其尺寸可變.本文將每個(gè)測(cè)試函數(shù)的維數(shù)設(shè)為D=30.各基準(zhǔn)測(cè)試函數(shù)的表達(dá)式和取值范圍列于表2和表3.所有測(cè)試算法參數(shù)設(shè)置一致.
將QFPA與FPA、PSO算法、GWO算法、GA進(jìn)行性能比較,其中總體規(guī)模Np=20,概率因子Pa=0.5.在比較不同算法時(shí),所有算法的函數(shù)求值總次數(shù)相同.
為驗(yàn)證QFPA的有效性,將其與4種算法FPA,GA,GWO,PSO進(jìn)行比較,為體現(xiàn)公平性,消除偶然性對(duì)實(shí)驗(yàn)結(jié)果的影響,上述方法的參數(shù)設(shè)置如下:Np=50,Pa=0.5,D=30,每種方法在每個(gè)基準(zhǔn)函數(shù)上獨(dú)立運(yùn)行30次,迭代次數(shù)為1000.5種算法的實(shí)驗(yàn)結(jié)果列于表4和表5.其中MEAN表示算法在所有基準(zhǔn)函數(shù)上得到結(jié)果的平均值,STD表示算法在所有基準(zhǔn)函數(shù)上得到結(jié)果的標(biāo)準(zhǔn)偏差.
由表4可見:QFPA 可獲得函數(shù)f1~f5,f8,f9,f11,f12,f16,f17,f21,f22,f24和f26的理論最優(yōu)值,其中在f1,f2,f4,f9,f26等一些基礎(chǔ)函數(shù)上結(jié)果略有優(yōu)勢(shì),表明QFPA可有效緩解FPA參數(shù)引入的缺陷;QFPA提高了除f7,f10,f13~f15,f18~f20,f23,f25外的大多數(shù)基準(zhǔn)函數(shù)的計(jì)算精度,表明局部挖掘階段,QFPA可有效改善FPA搜索能力不足的缺陷.雖然QFPA不能幫助FPA對(duì)所有基準(zhǔn)函數(shù)獲得更好的解,但其對(duì)大多數(shù)基準(zhǔn)函數(shù)都有更好的性能,并在很大程度上解決了局部開發(fā)與全局探索.:QFPA ff理論最優(yōu)解;QFPA在大多數(shù)的基準(zhǔn)函數(shù)上優(yōu)于其他4種粒子群算法;在f。中,與FPA,GWO算法持平.實(shí)驗(yàn)結(jié)果表明,在26個(gè)基準(zhǔn)函數(shù)中,QFPA的性能比FPA和GWO算法更具競(jìng)爭(zhēng)力和優(yōu)越性.
為比較不同算法的效果,下面使用算法收斂曲線的評(píng)價(jià)方法比較各算法的收斂程度.為公平性,進(jìn)行相同次數(shù)的適應(yīng)度評(píng)估,實(shí)驗(yàn)結(jié)果如圖3~圖6所示.
由圖3可見,QFPA在進(jìn)化的早期階段比其他3種算法的進(jìn)化度好,但沒有GWO算法的收斂度好,但在中后期階段,本文算法最后的收斂程度優(yōu)于其他4種算法,可以在函數(shù)f1~f。上達(dá)到相對(duì)最優(yōu)的性能.由圖4可見,對(duì)于函數(shù)fs,fg和fu,本文算法在進(jìn)化中后期都能獲得滿意的優(yōu)化結(jié)果.由圖5可見,QFPA對(duì)f1的收斂速度最快、最好,對(duì)f1在中后期優(yōu)于其他4種算法.由圖6可見,本文算法對(duì)函數(shù)f19,f21,f2和f2的收斂效果優(yōu)于其他算法,實(shí)驗(yàn)結(jié)果表明,對(duì)于函數(shù)f1,QFPA收斂速fffsfffQFPA較差,仍需改進(jìn).對(duì)于函數(shù)f5,f12,f18,f19,QFPA與GWO算法的最后收斂效果相似.
2.4參數(shù)設(shè)置
下面給出GWO算法,PSO算法,F(xiàn)PA,GA,QFPA各優(yōu)化算法的參數(shù)設(shè)置和適應(yīng)度曲線.為驗(yàn)證QFPA的優(yōu)越性,并確保實(shí)驗(yàn)結(jié)果具有可比性,本文將GWO算法,PSO算法,F(xiàn)PA,GA和QFPA的種群數(shù)目設(shè)為30,各算法最大迭代次數(shù)為100.各優(yōu)化算法的參數(shù)列于表6.
圖7為各優(yōu)化算法的自適應(yīng)度曲線.各優(yōu)化算法以每輪訓(xùn)練的RMSE作為自適應(yīng)度.由圖7可見,QFPA性能最好,特別是48次迭代后效果特別明顯.在訓(xùn)練結(jié)束時(shí),QFPA得到的自適應(yīng)度值最低為11.0183,表明QFPA對(duì)模型參數(shù)的優(yōu)化效果最好.
3實(shí)驗(yàn)結(jié)果
為進(jìn)一步驗(yàn)證QFPA的有效性和適用性,本文將QFPA等5種智能算法應(yīng)用在LSTM模型中,并從兩方面進(jìn)行對(duì)比分析,以解決空氣6個(gè)特征(PM2.5,PM10,SO2,CO,NO2,O3_8h)預(yù)測(cè)空氣質(zhì)量(AQI)的問題.實(shí)驗(yàn)結(jié)果如下.
1)將LSTM模型、GWO-LSTM模型、PSO-LSTM模型、GA-LATM模型、FPA-LSTM模型、QFPA-LSTM模型、CEEMDAN-QFPA-LSTM模型進(jìn)行對(duì)比,驗(yàn)證CEEMDAN算法對(duì)數(shù)據(jù)去噪的有效性,以及QFPA對(duì)LSTM模型的優(yōu)化性能.對(duì)比預(yù)測(cè)結(jié)果如圖8~圖11所示.由圖8可見,單一預(yù)測(cè)模型精度最低,與真實(shí)值的重合度較低.由圖10可見,QFPA-LSTM混合模型的預(yù)測(cè)值與真實(shí)值重合度較高.由圖11可見,CEEMDAN算法+QFPA的LSTM模型的預(yù)測(cè)值更接近于真實(shí)值,誤差率更低,效果更好.
2)各預(yù)測(cè)模型評(píng)價(jià)指標(biāo)列于表7.由表7可見,基于CEEMDAN-QFPA-LSTM模型在預(yù)測(cè)AQI方面誤差值最低.經(jīng)過CEEMDAN算法對(duì)數(shù)據(jù)中6個(gè)特征進(jìn)行去噪后,QFPA-LSTM預(yù)測(cè)模型與未經(jīng)去噪的混合模型FPA-LSTM和QFPA-LSTM相比均方根誤差分別下降了0.32,0.08μg/m3,平均絕對(duì)誤差分別下降了0.29,0.01μg/m3,R2分別提高了0.029,0.014μg/m3,表明在對(duì)FPA進(jìn)行優(yōu)化后得到的QFPA對(duì)LSTM模型的預(yù)測(cè)精度得到有效提高,從而證明了QFPA的優(yōu)越性,進(jìn)一步加入CEEMDAN算法對(duì)數(shù)據(jù)中的6個(gè)特性進(jìn)行去噪處理,使QFPA-LSTM模型的預(yù)測(cè)精度再次提高,進(jìn)一步證明了本文CEEMDAN算法降噪的有效性.
綜上所述,針對(duì)傳統(tǒng)花朵授粉算法受初始參數(shù)影響較大、且易陷入局部最優(yōu)解或算法無法收斂等問題,本文提出了一種基于量子行為花朵授粉算法的新算法,其目的是優(yōu)化算法的搜索性能并減少局部最小值的可能性.該算法的核心思想是將量子系統(tǒng)引入FPA算法中,通過增強(qiáng)跳出局部最優(yōu)解的能力提高算法的全局搜索性能,從而避免陷入局部最優(yōu)解.此外,該算法還通過引入軌跡分析優(yōu)化種群,幫助種群更好地逃離局部最優(yōu)解,并進(jìn)一步降低誤差.利用基準(zhǔn)函數(shù)對(duì)QFPA進(jìn)行驗(yàn)證的結(jié)果表明,QFPA相比于其他4種算法具有更好的魯棒性、準(zhǔn)確性和收斂性,并且實(shí)際應(yīng)用中具有可靠性和實(shí)用性.本文以云南省昆明市空氣質(zhì)量數(shù)據(jù)集為例進(jìn)行實(shí)驗(yàn)研究,實(shí)驗(yàn)結(jié)果表明,采用CEEMDAN算法對(duì)數(shù)據(jù)集進(jìn)行去噪后的QFPA-LSTM模型在空氣質(zhì)量預(yù)測(cè)方面具有顯著優(yōu)勢(shì).QFPA展現(xiàn)了出色的超參數(shù)尋優(yōu)能力和高效的收斂性,能有效處理模型的超參數(shù)尋優(yōu),提高預(yù)測(cè)精度.同時(shí),CEEMDAN算法展現(xiàn)了較好的數(shù)據(jù)降噪能力,解決了時(shí)間序列數(shù)據(jù)中存在的噪聲干擾問題,因此,該模型在空氣質(zhì)量預(yù)測(cè)領(lǐng)域有實(shí)際應(yīng)用價(jià)值.
參考文獻(xiàn)
[1]MOHAMMADI F G,SHENAVARMASOULEH F,RASHEED K,etal.The Application of Evolutionary and Nature Inspired Algorithms in Data Science and Data Analytics[C]//2021 International Conference on Computational Science and Computational Intelligence(CSCI).Piscataway,NJ:IEEE,2021:255-261.
[2]丁國(guó)超,施雪玲,胡軍,基于CGA-BP神經(jīng)網(wǎng)絡(luò)好氧堆肥的曝氣供氧量預(yù)測(cè)模型[J].農(nóng)業(yè)工程學(xué)報(bào),2023.39(5):1-7.(DING G C,SHI XL,HUJ.Prediction Model of Aeration Oxygen Supply for Aerobic Composting Based on CGA-BP Neural Network[J].Transactions of the Chinese Society of Agricultural Engineering,2023,39(5);1-7.)
[3]王爾申,王歡,雷虹,等,基于麻雀搜索算法的ARAIM故障子集優(yōu)化方法],北京航空航天大學(xué)學(xué)報(bào),2023,49(1):1-10,(WANG E S,WANG H,LEI H,etal.ARAIM Fault Subset Optimization Method Based on Sparrow Search Algorithm[J].Journal of Beijing University of Aeronautics and Astronautics,2023,49(1):1-10.)
[4]宋玉生,劉光宇,朱凌,等,改進(jìn)的灰狼優(yōu)化算法在SVM參數(shù)優(yōu)化中的應(yīng)用[J].傳感器與微系統(tǒng),2022,41(9):151-155.(SONG Y S.LIU G Y,ZHU L,etal.Improved Grey Wolf Optimization Algorithm for SVM Parameter Optimization[J].Sensors and Microsystems,2022,41(9):151-155.)
[5]ZHANG T T,SUN YJ,WANG PP,etal.Concentration Retrieval in a Calibration-Free Wavelength Modulation Spectroscopy System Using Particle Swarm Optimization Algorithm[J].Applied Optics,2022,61(9):2507-2514.
[6]劉懷湜,趙雪嬌,劉雨新,等,基于改進(jìn)粒子群優(yōu)化的超順磁效應(yīng)多參數(shù)提取[J],吉林大學(xué)學(xué)報(bào)(地球科學(xué)版),2024,54(3):993-1002.(LIU H S,ZHAO X J,LIU Y X,etal.Multi-parameter Extraction of Superparamagnetic Effect Based on Improved Particle Swarm Optimization[J].Journal of Jilin University(Earth Science Edition),2024,54(3):993-1002.)
[7]龍洋,蘇義鑫,廉城,等.混合細(xì)菌覓食算法求解無人艇路徑規(guī)劃問題[1].華中科技大學(xué)學(xué)報(bào)(自然科學(xué)版),2022,50(3):68-73.(LONG Y,SU Y X,LIAN C,etal.Hybrid Bacterial for Aging Algorithm for Unmanned Surface Vehicle Path Planning Problem[J].Journal of Huazhong University of Science and Technology(Natural Science Edition),2022,50(3):68-73.)
[8]姚光磊,熊菊霞,楊國(guó)武,等.多策略混合的花朵授粉算法[J].小型微型計(jì)算機(jī)系統(tǒng),2021,42(7):1-9.(YAO G L,XIONG JX,YANG G W,etal.Flower Pollination Algorithm Based on Multi-strategy Hybridization[J].Journal of Chinese Computer Systems,2021,42(7):1-9.)
[9]WU F,ZHAO Y L,PANG J H,etal.Low-Discrepancy Sampling in the Expanded Dimensional Space:An Acceleration Technique for Particle Swarm Optimization[J].Journal of Computational Science,2023,15(2):345-357.
[10]王明常,丁文,趙競(jìng)爭(zhēng),等.基于知識(shí)圖譜與隨機(jī)森林的落葉松毛蟲害遙感識(shí)別[J].吉林大學(xué)學(xué)報(bào)(地球科學(xué)),2023,53(6):2006-2017.(WANGмC,DING W,ZHAO J Z,etal.Remote Sensing Identification of DendrolimusSuperans Infestation Based on Knowledge Graph and Random Forest[J].Journal of Jilin University(Earth Science Edition),2023,53(6):2006-2017.)
[11]李美霖,芮杰,金飛,等,基于改進(jìn)YOLOX的遙感影像目標(biāo)檢測(cè)算法[1].吉林大學(xué)學(xué)報(bào)(地球科學(xué)版),2023,53(4):1313-1322.(LI M L,RUIJ,JIN F,etal.Remote Sensing Image Target Detection Algorithm Based on Improved YOLOX[J].Journal of Jilin University(Earth Science Edition),2023,53(4):1313-1322.)
[12]SAHA S,SARKAR J,DHAVALA S,etal.Quantile LSTM:A Robust LSTM for Anomaly Detection in Time Series Data[EB/OL].(2023-02-17)[2023-02-30].https://arxiv.org/abs/2302.08712.
[13]KARAA.Multi-step Influenza Outbreak Forecasting Using Deep LSTM Network and Genetic Algorithm[J].Expert Systems with Applications,2021,172:1-10.
[14]PRASANTH S,SINGH U,KUMAR A,etal.Forecasting Spread of COVID-19 Using Google Trends:A Hybrid GWO-Deep Learning Approach[J].Chaos Solitons Fractals,2021,142(1):110336-1-110336-12.
[15]毛曉娟,鮑彤,荀廣連,等.基于GWO-LSTM的設(shè)施蔬菜溫室溫度預(yù)測(cè)[J].中國(guó)農(nóng)機(jī)化學(xué)報(bào),2023,44(1):116-123.(MAO X J,BAO T,XUN G L,etal.Facility Vegetable Greenhouse Temperature Prediction Based on GWO-LSTM[J].Journal of Chinese Agricultural Mechanization,2023,44(1):116-123.)
[16]HE QQ,WU C,SI Y W.LSTM with Particle Swarm Optimization for Sales Forecasting[J].Electronic Commerce Research and Applications,2022,51:101118-1-101118-10.
[17]石濤,熊騰,趙玲珠.花朵授粉算法研究綜述[J].軟件導(dǎo)刊,2017,16(1):1-8.(SHIT,XIONGT,ZHAOLZ.Overview of the Pollination Algorithm of Flowering Plants[J].Software Guide,2017,16(1):1-8.)
[18]李蕊,黃瑋,李蒙.云南大氣環(huán)境容量系數(shù)變化特征及未來變化趨勢(shì)預(yù)估[J].氣象與環(huán)境科學(xué),2023,46(1):73-81.(LI R,HUANG W,LI M.Change Characteristics and Future Trends of Atmospheric Environmental Carrying Capacity in Yunnan[J].Meteorology and Environmental Science,2023,46(1):73-81.)
[19]SONG P C,PAN J S,CHU S C.A Parallel Compact Cuckoo Search Algorithm for Three-Dimensional Path Planning[J].Applied Soft Computing,2020,94:106443-106450.
[20]GHOJOGH B.GHODSI A.Recurrent Neural Networks and Long Short-Term Memory Networks:Tutorial and Survey[EB/OL].(2023-04-22)[2023-04-30].https:/arxiv.org/abs/2304.11461.
[21]毛世榕,史水平,玉壯基,等。基于自適應(yīng)噪聲完全集合經(jīng)驗(yàn)?zāi)B(tài)分解算法和Hurst指數(shù)的地震數(shù)據(jù)去噪方法[J].地震學(xué)報(bào),2023,45(2):258-270.(MAOS R,SHISP,YU Z J,etal.Denoising Method of Earthquake Data Based on Adaptive Noise Complete Ensemble Empirical Mode Decomposition Algorithm and Hurst Index[J].Acta Seismologica Sinica,2023,45(2):258-270.)
[22]LI G X,CHEN B Q.Discovery of a Coherent,Wave-Like Velocity Pattern for the Radcliffe Wave[J].Monthly Notices of the Royal Astronomical Society:Letters,2022,517(1):L102-L107.
[23]SPINOSA E,IAFRATI A.A Noise Reduction Method for Force Measurements in Water Entry Experiments Based on the Ensemble Empirical Mode Decomposition[J].Mechanical Systems and Signal Processing,2022,168:108659-1-108659-12.
[24]ZHANG P.LIU F,AUJLA GS,etal.VNE Strategy Based on Chaos Hybrid Flower Pollination Algorithm Considering Multi-criteria Decision Making[J].Neural Computing and Applications,2021,33(11):10673-10684.
[25]張文棟,劉子琨,梁濤,等.基于CNN-LSTM的綜合能源系統(tǒng)負(fù)荷預(yù)測(cè)模型[J].重慶郵電大學(xué)學(xué)報(bào)(自然科學(xué)版),2023,35(2):254-262.(ZHANG W D,LIU ZK,LIANG T,etal.Load Forecasting Model of Integrated Energy System Based on CNN-LSTM[J].Journal of Chongqing University of Posts and Telecommunications(Natural Science Edition),2023,35(2):254-262.)
[26]程文輝,車文剛.基于二次分解與LSTM的金融時(shí)間序列預(yù)測(cè)算法研究[J].重慶郵電大學(xué)學(xué)報(bào)(自然科學(xué)版)2022,34(4):638-645.(CHENG W H,CHE W G.Research on Financial Time Series Prediction Algorithm Based on Secondary Decomposition and LSTM[J].Journal of Chongqing University of Posts and Telecommunications(Natural Science Edition),2022,34(4):638-645.)
[27]杜敏,王躍成,張帥平,等.液體燃料MILD燃燒的特性及其污染物的排放規(guī)律[J].江蘇大學(xué)學(xué)報(bào)(自然科學(xué)版),2023,44(5):582-587.(DU M,WANG Y C,ZHANG S P,etal.Characteristics of Liquid Fuel MILD Combustion and Its Pollutant Emission Patterns[J].Journal of Jiangsu University Natural Science Edition),2023,44(5):582-587.)
[28]杜敏,孫文濤,王躍成,等.燃燒室結(jié)構(gòu)對(duì)液體燃料MILD燃燒影響的數(shù)值模擬[J].江蘇大學(xué)學(xué)報(bào)(自然科學(xué)版),2022,43(6):650-656.(DU M,SUN W T,WANG Y C,etal.Numerical Simulation of the Impact of Combustion Chamber Structure on Liquid Fuel MILD Combustion[J].Journal of Jiangsu University(Natural Science Edition),2022,43(6):650-656.)
(責(zé)任編輯:韓嘯)