基于改進的遺傳算法優(yōu)化BP神經網絡并用于紅酒質量等級分類

畢艷亮,寧　芊,雷印杰,王　偉

(四川大學 電子信息學院，成都　610065)

?

基于改進的遺傳算法優(yōu)化BP神經網絡并用于紅酒質量等級分類

畢艷亮,寧芊,雷印杰,王偉

(四川大學 電子信息學院，成都610065)

針對以往的紅酒生產過程中，紅酒質量分類過程復雜且低效，因此研究一種高效可靠的智能分類識別方法很有必要;這里在紅酒的多種物理化學成份測定的基礎上，使用人工智能理論中的神經網絡構建分類模型，實現對紅酒質量的高效分類;并用改進的遺傳算法對BP神經網絡中的缺陷做了一定的優(yōu)化;對比傳統(tǒng)BP網絡分類效果，結果表明，改進后的神經網絡收斂速度更快，各個質量等級的分類正確率均提高了10%左右;對紅酒加工企業(yè)具有積極的實際參考價值。

BP神經網絡；遺傳算法； 紅酒；分類

0　引言

如何對紅酒的質量進行快速準確分類對企業(yè)的生產有積極的意義。目前常用的檢測主要包括氣相色譜法和化學成分分析方法。這些方法耗時、費力、低效。因此，研究一種快速高效的紅酒分類方法就顯得很重要[1]。這里利用傳感器陣列傳回的紅酒多種物理化學參數，結合人工智能中的BP神經網絡理論進行機器學習，然后將其用于紅酒質量分類；BP神經網絡作為一種模式識別技術，它具有強大的自適應、自學習及聯(lián)想記憶等優(yōu)點，對于一些模糊的、非線性的問題能夠很好地構建和逼近[1-1]，文獻[3]就是對該性能的一種應用。然而神經網絡具有易陷入局部最優(yōu)，收斂速度慢等缺陷。而遺傳算法作為一種基于自然選擇與進化機制的功能強大的隨機收索算法，GA的操作不需要規(guī)劃對象的先驗性知識，只需要計算個體的適應度值并作出篩選[4-5]，具有良好的全局收索效果。這里就利用遺傳算法對神經網絡的權值和閾值進行尋優(yōu)，并利用變學習率的學習方式以改善網絡的收斂速度?；颂岣呒t酒質量的分類效率。

1　基本算法簡介及特點

1.1BP神經網絡

〗BP神經網絡是一種多層前饋型網絡，該網絡的最大特點是輸入信號進行前向輸入，誤差信號進行逆向反饋。在前向傳輸過程中，輸入信號從輸入層經過隱含層再到輸出層逐層處理。并將輸出層的輸出與期望輸出進行對比，得出的差值進行反饋，根據得出的差值調整網絡結構中的各個權值和閾值[6]。反復進行多次訓練以促使BP神經網絡輸出不斷逼近期望輸出，從而得到一組合適的權值和閾值。神經網絡的模型大致如圖1所示。

圖1　三層BP神經網絡圖

上圖中的x1,xi,…,xn分別作為BP神經網絡的輸入信號，而y1,yj,…,ym是BP神經網絡的輸出信號，V為輸入層和隱含層之間的各個權值，W為隱含層和輸出層之間的各個權值；因此可以將神經網絡看作一個非線性函數；網絡中的輸入層輸入的變量和輸出 層輸出的變量分別為該函數的自變量和因變量，從而形成一個函數映射[6]。這里正是利用神經網絡的這種特性，在已知影響紅酒質量的主要影響因素下，通過多次網絡訓練以確定這些因素與紅酒質量之間的內在復雜關系。這種復雜關系通過訓練出的權值和閾值來反映，正是基于得到的權值和閾值進行紅酒質量的快速分類。

然而BP神經網絡在應用過程中存在一些缺陷：其一初始權值和閾值是隨機生成，易陷入局部最優(yōu)，影響訓練效果；其二學習率無法確定，如果學習率過大，則達不到所需要的訓練精度，而學習率過小，又使訓練過程減慢，收斂速度放緩。針對這些問題，這里對其進行了以下改進：1)使用遺傳算法尋優(yōu)優(yōu)秀的權值和閾值，以防止權值和閾值隨機生成易陷入局部最優(yōu)。2)對原有的固定學習率進行相應改進，改用自適應學習率以提高學習效率。

1.2遺傳算法基本原理及改進

遺傳算法是一種借鑒自然界中適者生存、優(yōu)勝劣汰的進化機制演化而來的高度并行、隨機、自適應搜索算法[7]，目前已經被人們廣泛地應用于組合優(yōu)化、機器學習、自適應控制和人工生命等諸多領域，是現代智能計算中的關鍵技術之一[8]。

遺傳算法中，首先對所優(yōu)化參數進行二進制或多進制編碼，隨機產生n個初始種群。然后根據種群擇優(yōu)的目標方向確定種群的適應度函數，常用適應度函數如下面公式(1)(這里m為種群規(guī)模，x為遺傳算法中反饋給選擇函數的某個參數)所示，再用輪盤法進行選擇。這里對適應度函數中的參數進行了改進。計算公式如(2)，式中的n可以根據遺傳算法擇優(yōu)的方向進行設定，其目的主要是克服當染色體較多且各個染色體在種群中所占比例不大時擴大各個染色體的差距以加快尋優(yōu)進程。

(1)

(2)

交叉操作指對兩個染色體相互交換部分基因，是產生新個體的重要方法，決定了GA的全局收索能力。這里由于染色體長度較長，故采用多點交叉，這里取三點交叉[11]。交叉模型如下。

交叉前的編碼為：

M:x1,x2…xi,xi+1…xj,xj+1…xk,xk+1…xm

N:y1,y2…yi,yi+1…yj,yj+1…yk,yk+1…ym

交叉后的編碼為：

M:x1,x2…xi,yi+1…yj,xj+1…xk,yk+1…ym

N:y1,y2…yi,xi+1…xj,yj+1…yk,xk+1…xm

變異操作指對染色體中的某些基因進行變異操作，是產生新個體的重要方法，決定了GA的全局收索能力。變異基因的個數如公式(3)(Nc,Ng分別為染色體數和每條染色體的基因數，m為變異概率)。

(3)

這里為了加快進化速度，對常規(guī)的交叉和變異操作進行了一定的改動。其一，引入免疫遺傳算法中免疫記憶機制，對優(yōu)秀的個體進行保護，不進行變異和交叉操作。以加快尋優(yōu)速度。其二，改變以往變異過程中變異概率不變的特性，這里在對適應度排序在后%30的個體進行標記的基礎上，對其以更高的概率進行變異操作，促進更優(yōu)個體的出現，加快進化進程。其三，由于染色體長度較長，采用多點交叉，以產生優(yōu)秀個體。

2　實驗數據特征

實驗數據為一紅酒品牌多種物理化學參數，主要參數有揮發(fā)性酸、殘留糖、鹵化物、PH值、酒精度、密度、硫酸鹽、總硫量這八種參數作為紅酒分類的主要參考指標，并根據這些參數將紅酒分為三大類。又因為各維數據的量級上存在很大差異，因此這里對每列數據進行歸一化處理。處理方式如公式(4)(式中tmin為每列的最小值，tmax為每列的最大值，t為要歸一化的數值)：

(4)

表1　實驗數據的基本特征

3　分類模型的構建

3.1構建神經網絡的模型

因為紅酒分類中的主要參考指標有八項，故這里的神經網絡輸入端口為8個，而又分為三大類，所以這里的輸出端口為3個。在隱含層節(jié)點數目確定上采取試錯法，發(fā)現當隱層節(jié)點數為21時，神經網絡對該數據的分類效果最好。故這里選取的隱層節(jié)點數為21。因此此神經網絡的基本模型為8-21-3，且隱含層和輸出層的傳遞函數都取s函數。

3.2遺傳算法優(yōu)化BP神經網絡流程

BP神經網絡對網絡初始權值和閾值的依賴性比較強，以往大多隨機選取，很容易陷入局部最優(yōu)。而遺傳算法是一種全局優(yōu)化的自適用概率搜索算法，可以得到全局最優(yōu)[9-12]。用遺傳算法對神經網絡的初始權值和閾值進行優(yōu)化尋優(yōu)。在此基礎上進行自適應學習率的學習，以提高學習效率，基本流程圖如圖2所示。

圖2　遺傳算法優(yōu)化神經網絡流程圖

3.3BP神經網絡權值和閾值的優(yōu)化的具體過程

步驟如下：

1)這里為了解碼的方便，使用實數編碼。隨機生成20條實數染色體，每個染色體的長度使用公式(5)計算。式中Ni,Nh,NO分別為輸入層節(jié)點數，隱層節(jié)點數，輸出層節(jié)點數。

(5)

2)將得到的染色體的權值和閾值代入神經網絡中，得出每個染色體對應的均方差。

3)將得到的均方差代入上面的公式(1)和公式(2)進行選擇操作，這里因為個染色體帶來的均方差差別不大，且染色體數量校多，因此公式(2)中的n取-6，以拉大各個染色體的差距，加快進化進程。

4)對選出的染色體進行上述改進后的遺傳操作，主要為標記優(yōu)秀個體和適應度排序靠后的6個個體。同時交叉概率都取0.7，并進行三點交叉。變異概率取0.25和0.6分別對應優(yōu)秀個體變異和較差個體的變異過程。

5)返回步驟2,重復多次，直到均方差收斂，得到一組合理的權值和閾值，將其帶入后續(xù)的神經網絡訓練。

3.4學習率的影響及改進

進行神經網絡的傳統(tǒng)訓練以對各個權值和閾值進行細化調整。參考文獻中大多只是使用常規(guī)神經網絡訓練，即學習率不變。然而學習率將決定各個權值和閾值的調整姿態(tài)和變化速度，對訓練過程有很大影響。但具體取大小又很難確定。表2反應了不同學習率對該數據預測結果的影響?；丝紤]使用自適應學習率。具體為當均方差變小時，使用公式(6)對學習率調大。當均方差變大時，使用公式(7)對學習率調小。從而克服學習率難確定的難題。

(6)

(7)

表2　不同固定學習率的分類效果對比

4　實驗效果對比

從所采集的數據中隨機抽選139組作為訓練數據，120組作為測試數據。分別用普通神經網絡和優(yōu)化后的神經網絡進行訓練，根據其訓練過程的均方差值得到其收斂圖。分別如圖3和圖4，對比發(fā)現優(yōu)化后的神經網絡收斂速度更快，收斂效果更好。而表三則反映了對該紅酒的分類正確率，這里為了對比的科學性，表三中的數據是進行100次訓練測試后的平均值?？梢钥闯鰞?yōu)化后的神經網絡分類效果明顯。

圖3　常規(guī)神經網絡訓練收斂效果

圖4　優(yōu)化后神經網絡收斂效果

性能BPGA-BP類別一的正確率76.31%84.66%類別二的正確率77.79%88.19%類別三的正確率80.92%90.35%

5　結論

神經網絡作為當代較為流行的一種智能算法，以其對非線性系統(tǒng)的優(yōu)越處理能力得到廣泛應用，但也存在一些缺陷。這里在使用改進的遺傳算法對其進行優(yōu)化的基礎上，通過對所采集的紅酒各指標進行人工智能學習，然后應用于紅酒質量分類。實驗結果表明，分類效果顯著。但分類正確率還有待提高，在今后的研究中，將適當調整諸如隱層節(jié)點數、變異率、交叉率等參數，以提高分類正確率。同時，該理論與傳感器陣列結合，可以應用于其他食品加工行業(yè)的食品質量智能檢測，對一些食品加工企業(yè)具有一定的實際意義。

[1]許兆美，周建忠，黃舒，等.基于遺傳算法優(yōu)化反向傳播神經網絡的激光銑層質量預測[J].中國激光，2013，40(6)：0603004-1-0603004-5.

[2] 李琳，趙謀明.人工神經網絡在食品工業(yè)中的應用[J].食品研究與開發(fā)，2005，26(1)：13-16.

[3] 殷勇，田先亮.酒品質量穩(wěn)定性的神經網絡鑒別方法研究[J].食品科學，2005，26(11)：210-212.

[4] 崔明月，劉旭焱，劉紅釗，等.基于神經網絡—遺傳算法的雙層隔振系統(tǒng)復合振動控制[J].實驗室研究與探索，2014，33(7)：115-119.

[5] 張國翊，胡錚.改進BP神經網絡模型及其穩(wěn)定性分析[J].中南大學學報，2011，42(1)：115-124.

[6] 王小川，史峰，郁磊，等.MATLAB神經網絡43個案例分析[M].北京：北京航空航天大學出版社，2013.

[7] Kumar S, Naresh R. Efficient real coded genetic algorithm to solve the non-convex hydrothermal scheduling problem [J].International Journal of Electrical Power and Energy Systems, 2007,29(10): 738-747.

[8] 盧建中,程浩.改進GA優(yōu)化BP神經網絡的短時交通流預測[J].合肥工業(yè)大學學報(自然科學版)，2015，38(1)：127-131.[9] Xie S C, Zhou H, Zhao J J, et al. Energy-absorption forecast of thin-walled structure by GA-BP hybrid algorithm [J].Journal of Central South University, 2013,(20): 1122-1128.

[10] 吳吉賢,杜海燕.基于遺傳算法改進的BP神經網絡模型在GPS高程擬合中的應用研究[J].工程勘察，2014，(3)：73-77.

[11]Yu S W, Guo X F, Zhu K J, et al. A neuro-fuzzy GA-BP method of seismic reservoir fuzzy rules extraction[J].Expert Systems With Applications,2009,37(3): 2037-2042.

[12] Li H, Hu C X, Li Y. Application of the Purification of Materials Based on GA-BP[J]. Energy Procedia ,2012(17):762-769.

Improved GA-BP Network Used to Wine Quality Classification

Bi Yanliang,Ning Qian,Lei Yinjie,Wang Wei

(College of Electronics and Information Engineering, Sichuan University,Chengdu610065,China)

In the past, the quality of red wine classification process is complex and inefficient.So it’s necessary to study a highly efficient and reliable classification method.Here,on the basis of determination of various physical and chemical composition, using the theory of artificial intelligence to construct classification model.Implementation of the efficiency of the wine quality classifying.We also improve the conventional neural network.The results show that the improved neural network work with high efficiency.It have positive practical reference value to processing enterprises.

BP neural network;genetic algorithm;red wine;classification

2015-07-14；

2015-08-27。

國家自然科學基金項目(61403265)。

畢艷亮(1990-)，男，安徽阜陽人，碩士，主要從事智能控制方向的研究。

寧芊(1969-)，女，副教授，博士，主要從事模式識別與智能控制方向的研究。

1671-4598(2016)01-0226-03

10.16526/j.cnki.11-4762/tp.2016.01.062

TP183

A