基于遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的藻類繁殖狀態(tài)軟測量方法

張 穎， 詹 冉， 施 佳

（上海海事大學(xué) 信息工程學(xué)院，上海 201306）

軟測量技術(shù)是指利用可測、易測變量（常稱為輔助變量）與難以直接檢測的待測變量（稱為主導(dǎo)變量）的映射關(guān)系，根據(jù)某種最優(yōu)準(zhǔn)則，采取各種計(jì)算方法，用軟件實(shí)現(xiàn)對待測變量的預(yù)測和估計(jì)。遺傳算法（Genetic Algorithm，GA）和人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Networks，ANN）都是將生物學(xué)原理應(yīng)用于系統(tǒng)辨識的仿生學(xué)理論成果，二者的產(chǎn)生都受到了自然界中信息處理方法的啟發(fā)，但來源并不相同，GA是從自然界生物進(jìn)化機(jī)制獲得啟示，而ANN則是人腦或動(dòng)物神經(jīng)網(wǎng)絡(luò)若干基本特性的抽象和模擬[1-2]。

BP神經(jīng)網(wǎng)絡(luò)是ANN應(yīng)用較廣泛的網(wǎng)絡(luò)之一，具有較強(qiáng)的非線性映射能力，但是在學(xué)習(xí)中容易陷入局部極小值，且收斂速度比較慢。遺傳算法以概率選擇為主要手段，擅于全局搜索，將二者有機(jī)結(jié)合，可增強(qiáng)網(wǎng)絡(luò)的學(xué)習(xí)能力，在如何使遺傳算法和BP神經(jīng)網(wǎng)絡(luò)有機(jī)結(jié)合方面，許多學(xué)者做了大量的研究工作[3-4]。

文中從優(yōu)化BP神經(jīng)網(wǎng)絡(luò)權(quán)值和閾值的角度出發(fā)，提出了一種基于GA優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的海洋藻類生長狀態(tài)預(yù)測模型。用GA來彌補(bǔ)BP神經(jīng)網(wǎng)絡(luò)連接權(quán)值和閾值選擇上的隨機(jī)性缺陷，使BP神經(jīng)網(wǎng)絡(luò)具有較快的收斂速度和較強(qiáng)的學(xué)習(xí)能力。利用該算法對海水各理化因子與葉綠素-a含量之間的復(fù)雜映射關(guān)系進(jìn)行了建模，結(jié)果表明該方法可有效應(yīng)用于海洋藻類生長狀態(tài)的預(yù)測估計(jì)。

1 GA-BP模型的構(gòu)造

1.1 GA-BP模型的理論基礎(chǔ)

遺傳算法是模仿自然界生物進(jìn)化機(jī)制發(fā)展起來的隨機(jī)全局搜索和優(yōu)化方法，其本質(zhì)是一種高效、并行、全局搜索的最優(yōu)化方法。遺傳算法操作使用適者生存的原則，在潛在的解決方案種群中逐次產(chǎn)生一個(gè)近似最優(yōu)解的方案。在遺傳算法的每一代中，根據(jù)個(gè)體在問題域中的適應(yīng)度值和從自然遺傳學(xué)說中借鑒來的再造方法進(jìn)行個(gè)體選擇，產(chǎn)生一個(gè)新的近似解。這個(gè)過程導(dǎo)致種群中個(gè)體的進(jìn)化，得到的新個(gè)體比原個(gè)體更能適應(yīng)環(huán)境[5]。

BP（Back Propagation，誤差反向傳播）網(wǎng)絡(luò)是一種有隱含層的多層前饋網(wǎng)絡(luò)。它解決了多層網(wǎng)絡(luò)中隱含單元連接權(quán)的學(xué)習(xí)問題。BP網(wǎng)絡(luò)學(xué)習(xí)的基本原理是梯度最速下降法，使網(wǎng)絡(luò)的實(shí)際輸出值與期望輸出值的誤差均方值為最小，網(wǎng)絡(luò)學(xué)習(xí)過程是一種誤差邊向后傳播邊修正權(quán)系數(shù)的過程。圖1表示了BP神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)。

圖1 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)Fig.1 The structure of BP neural network

采用遺傳算法（GA）優(yōu)化BP神經(jīng)網(wǎng)絡(luò)，可以克服BP神經(jīng)網(wǎng)絡(luò)各節(jié)點(diǎn)的閾值和節(jié)點(diǎn)之間的連接權(quán)值初始選擇具有隨機(jī)性的不利影響，使得模型訓(xùn)練時(shí)間縮短，收斂性增強(qiáng)，這種模型用GA-BP表示。

1.2 GA-BP模型的結(jié)構(gòu)

遺傳算法是一種全局優(yōu)化隨機(jī)搜索算法，在個(gè)體基因表示的基礎(chǔ)上通過遺傳算子模擬遺傳過程中出現(xiàn)的復(fù)制、交叉和變異等現(xiàn)象，對種群個(gè)體逐代擇優(yōu)，從而獲得最優(yōu)個(gè)體。為了解決BP神經(jīng)網(wǎng)絡(luò)初始參數(shù)選擇的隨機(jī)性及收斂速度慢的問題，采用遺傳算法對網(wǎng)絡(luò)參數(shù)先行優(yōu)化。首先隨機(jī)生成若干組網(wǎng)絡(luò)參數(shù)初值，再利用遺傳算法對這些網(wǎng)絡(luò)參數(shù)初值進(jìn)行配合度計(jì)算，經(jīng)過若干代進(jìn)化之后找到最能夠適應(yīng)給定BP網(wǎng)絡(luò)的一組網(wǎng)絡(luò)參數(shù)，再將這組網(wǎng)絡(luò)參數(shù)用于BP網(wǎng)絡(luò)訓(xùn)練，最終使輸出結(jié)果達(dá)到要求的精度，其結(jié)構(gòu)如圖2所示。

1.3 GA-BP模型的實(shí)現(xiàn)

GA-BP模型中的遺傳算法優(yōu)化部分采用標(biāo)準(zhǔn)遺傳算法流程。算法優(yōu)化的對象為BP網(wǎng)絡(luò)的所有參數(shù)，即每個(gè)神經(jīng)元的激活閾值和神經(jīng)元之間的連接權(quán)值，每一套這樣的參數(shù)集作為算法的一個(gè)染色體。遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)就是對這些染色體進(jìn)行處理。其要素包括種群初始化、適應(yīng)度函數(shù)、選擇操作、交叉操作和變異操作。

1）染色體編碼與初始權(quán)重種群的生成

任一組完整的網(wǎng) 絡(luò) 權(quán)值 Wi（Wi={w1i，w2i，w3i，b1i，b2i，b3i，i=1，2，…，P}）相當(dāng)于一條染色體，這樣的染色體共有 P個(gè)，即權(quán)重種群規(guī)模為P。個(gè)體編碼方法為實(shí)數(shù)編碼，每個(gè)個(gè)體均為一個(gè)實(shí)數(shù)串，由輸入層與隱含層連接權(quán)值、隱含層閾值、隱含層與輸出層連接權(quán)值以及輸出層閾值4部分組成。個(gè)體包含了神經(jīng)網(wǎng)絡(luò)全部權(quán)值和閾值，在網(wǎng)絡(luò)結(jié)構(gòu)已知的情況下，就可以構(gòu)成一個(gè)結(jié)構(gòu)、權(quán)值、閾值確定的神經(jīng)網(wǎng)絡(luò)。

圖2 GA-BP網(wǎng)絡(luò)模型結(jié)構(gòu)Fig.2 The flow chart of GA-BP network model

2）適應(yīng)度函數(shù)

GA中用適應(yīng)度函數(shù)來評價(jià)染色體的優(yōu)劣。染色體的適應(yīng)度值越大，相應(yīng)染色體所代表的解越優(yōu)，生存的概率越大。選擇適應(yīng)度函數(shù)的依據(jù)是能否有效地知道搜索空間沿著面向優(yōu)化參數(shù)組合方向，逐漸逼近最佳參數(shù)組合，而不會導(dǎo)致搜索不收斂或陷入局部最優(yōu)，同時(shí)要易于計(jì)算。根據(jù)個(gè)體得到BP神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閾值，用樣本數(shù)據(jù)訓(xùn)練BP神經(jīng)網(wǎng)絡(luò)，把模型輸出和期望輸出之間的誤差絕對值和E作為個(gè)體適應(yīng)度值F，計(jì)算公式為

式中，n為網(wǎng)絡(luò)輸出節(jié)點(diǎn)數(shù)；yi為BP神經(jīng)網(wǎng)絡(luò)第i個(gè)節(jié)點(diǎn)的期望輸出；oi為第i個(gè)節(jié)點(diǎn)的預(yù)測輸出；k為系數(shù)。

3）選擇操作

選擇操作是根據(jù)染色體的適應(yīng)度，在群體中按一定概率選取可作為父本的染色體，選擇的依據(jù)是：適應(yīng)度大的染色體被選中的概率大。遺傳算法選擇操作有輪盤賭法、錦標(biāo)賽法等多種方法，本案例選擇輪盤賭法，即基于適應(yīng)度比例的選擇策略，每個(gè)個(gè)體i的選擇概率pi為

式中，F(xiàn)i為個(gè)體i的適應(yīng)度值，由于適應(yīng)度值越小越好，所以在個(gè)體選擇前對適應(yīng)度值求倒數(shù)；k為系數(shù)；N為種群個(gè)體數(shù)目。

4）交叉操作

交叉操作是按一定的概率隨機(jī)地選擇染色體對，然后對染色體對按一定的概率隨機(jī)的交換基因以形成新的子染色體。由于個(gè)體采用實(shí)數(shù)編碼，所以交叉操作方法采用實(shí)數(shù)交叉法，第k個(gè)染色體ak和第l個(gè)染色體a1在j位的交叉操作方法如下：

式中，b 是[0，1]間的隨機(jī)數(shù)。

5）變異操作

變異操作是按一定概率隨機(jī)地改變某個(gè)染色體的基因值。變異運(yùn)算為種群提供新的信息，從而保持種群染色體的多樣性，能夠有效防止早熟現(xiàn)象的發(fā)生。采用非均勻變異操作，即各代中參與變異操作的染色體的變異量是非均勻變化的，變異量是染色體、取值區(qū)域左右邊界、當(dāng)前進(jìn)化代、最大進(jìn)化代數(shù)等參量的函數(shù)。

選取第i個(gè)個(gè)體的第j個(gè)基因aij進(jìn)行變異，變異操作方法如下：

式中，amax為基因 aij的上界；amin為基因 aij的下界；f（g）=r2（1-g/Gmax）；r2為一個(gè)隨機(jī)數(shù)；g 為當(dāng)前迭代次數(shù)；Gmax是最大的進(jìn)化代數(shù)；r為[0，1]間的隨機(jī)數(shù)。

2 實(shí)驗(yàn)及分析

實(shí)驗(yàn)主要以均方誤差（MSE）作為預(yù)測精度的評測標(biāo)準(zhǔn)，定義為：

MSE可以評價(jià)誤差的大小，其值越小，說明預(yù)測模型對實(shí)際系統(tǒng)的描述能力越強(qiáng)。

通過對影響藻類生長的各種環(huán)境理化因子進(jìn)行相關(guān)性分析[6-7]，采用上個(gè)狀態(tài)的葉綠素-a含量、硝酸鹽含量、海水透光度、海水溫度4項(xiàng)作為BP模型的輸入，當(dāng)前狀態(tài)的葉綠素-a含量作為系統(tǒng)輸出，因?yàn)楫?dāng)前狀態(tài)的葉綠素-a含量是對藻類生長狀態(tài)進(jìn)行描述的最直接生物指標(biāo)。BP模型采用4-9-1的三層結(jié)構(gòu)，參數(shù)設(shè)置為：訓(xùn)練次數(shù)取100，訓(xùn)練目標(biāo)取0.000 01，學(xué)習(xí)率取0.01。GA參數(shù)設(shè)置為:種群規(guī)模取10，進(jìn)化代數(shù)取10，交叉概率取0.2，變異概率取0.1。將500組觀測數(shù)據(jù)中的前400組作為訓(xùn)練樣本，將后100組數(shù)據(jù)作為預(yù)測測試數(shù)據(jù)。通過BP神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測測試的結(jié)果如圖3所示。其預(yù)測相對誤差如圖4所示。

通過GA-BP神經(jīng)網(wǎng)絡(luò)預(yù)測測試的結(jié)果如圖5所示。其預(yù)測相對誤差如圖6所示。

兩種建模方法都能實(shí)現(xiàn)對藻類生長狀態(tài)的預(yù)測，但是將BP神經(jīng)網(wǎng)絡(luò)和GA-BP神經(jīng)網(wǎng)絡(luò)預(yù)測結(jié)果進(jìn)行對比可以看到，在相同條件下，GA-BP網(wǎng)絡(luò)預(yù)測結(jié)果更接近實(shí)際值，預(yù)測效果更好。通過圖4和圖6可以看出，GA-BP模型的誤差相對較小。BP神經(jīng)網(wǎng)絡(luò)與GA-BP神經(jīng)網(wǎng)絡(luò)兩種模型預(yù)測結(jié)果的誤差比較如表2所示。

圖3 BP神經(jīng)網(wǎng)絡(luò)的預(yù)測Fig.3 Prediction result of BP neural network

圖4 BP神經(jīng)網(wǎng)絡(luò)的預(yù)測誤差Fig.4 Prediction error of BP neural network

圖5 GA-BP神經(jīng)網(wǎng)絡(luò)的預(yù)測Fig.5 Prediction result of GA-BP neural network

根據(jù)表2所示，通過誤差總和（EE）、誤差百分比（RR）、均方誤差（MSE）及訓(xùn)練時(shí)間（T）等對比可見：GA-BP神經(jīng)網(wǎng)絡(luò)模型在預(yù)測誤差上比傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)模型減少約44.86%，訓(xùn)練時(shí)間節(jié)省近82.4%。

圖6 GA-BP神經(jīng)網(wǎng)絡(luò)的預(yù)測誤差Fig.6 Prediction error of GA-BP neural network

表2 BP神經(jīng)網(wǎng)絡(luò)與GA-BP神經(jīng)網(wǎng)絡(luò)兩種模型預(yù)測結(jié)果誤差值對比Tab.2 Error comparison of BP neural network and GA-BP neural network model for prediction results

3 結(jié)束語

本文采用遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)初始權(quán)值和閾值，能夠克服BP神經(jīng)網(wǎng)絡(luò)初始權(quán)值和閾值隨機(jī)選取帶來的收斂速度慢、易產(chǎn)生振蕩不收斂、陷入局部最優(yōu)等問題，可縮短網(wǎng)絡(luò)預(yù)測模型的訓(xùn)練時(shí)間，使其收斂性增強(qiáng)，泛化性能獲得提升，實(shí)驗(yàn)表明，此方法可提高以此構(gòu)造的海洋藻類生長狀態(tài)預(yù)測模型的預(yù)測精度。

[1]朱學(xué)峰.軟測量技術(shù)及其應(yīng)用 [J].華南理工大學(xué)學(xué)報(bào)：自然科學(xué)版，2002，30（11）:61-67.

ZHU Xue-feng.Soft-sensing technique and its applications[J].Journal of South China University of Technology：Natural Science，2002，30（11）:61-67.

[2]葛繼科，邱玉輝，吳春明，等.遺傳算法研究綜述[J].計(jì)算機(jī)應(yīng)用研究，2008，25（10）:2912-2916.

GE Ji-ke，QIU Yu-hui，WU Chun-ming，et al.Summary of genetic algorithmsresearch[J].Application Research of Computers，2008，25（10）:2912-2916.

[3]段玉倩，賀家李.遺傳算法及其改進(jìn)[J].電力系統(tǒng)及其自動(dòng)化學(xué)報(bào)，1988，10（1）:39-52.

DUAN Yu-qian，HE Jia-li.Genetic algorithms and it’s modification[J].Electric Power System and Automation，1988，10（1）:39-52.

[4]趙宇紅，李蘭君，王麗君.基于遺傳算法的人工神經(jīng)網(wǎng)絡(luò)負(fù)荷預(yù)測研究 [J].南華大學(xué)學(xué)報(bào)：自然科學(xué)版，2005，19（4）:72-75.

ZHAO Yu-hong，LI Lan-jun，WANG Li-jun.Artificial neural network load forecasting system based on genetic algorithm[J].Journal of Nanhua University：Natural Science，2005，19（4）:72-75.

[5]雷英杰.MATLAB遺傳算法工具箱及應(yīng)用[M].西安：西安電子科技大學(xué)出版社，2005.

[6]農(nóng)吉夫，黃文寧.基于主成分分析法的BP神經(jīng)網(wǎng)絡(luò)長期預(yù)報(bào)模型[J].廣西師范學(xué)院學(xué)報(bào)，2008，25（4）:46-51.

NONG Ji-fu，HUANG Wen-ning.BP neural network based on principal component analysis of long-term forecasting model[J].Journal of Guangxi Teachers Education University，2008，25（4）:46-51.

[7]劉樂，王洪國，王寶偉.基于PCA和改進(jìn)BP網(wǎng)絡(luò)的降雨預(yù)報(bào)模型研究[J].計(jì)算機(jī)工程與應(yīng)用，2008，44（12）:234-237.

LIU Le，WANG Hong-guo，WANG Bao-wei.Research in rain forecasting model based on PCA and improved BP network[J].Computer Engineering and Applications，2008，44（12）:234-237.