基于量子粒子群方法訓練ANFIS模型

張正金 吳劍威

（1 巢湖學院，安徽 巢湖 238000）（2 合肥師范學院，安徽 合肥 230601）

基于量子粒子群方法訓練ANFIS模型

張正金1吳劍威2

（1 巢湖學院，安徽 巢湖 238000）（2 合肥師范學院，安徽 合肥 230601）

論文提出一種基于量子行為粒子群算法優(yōu)化自適應模糊推理系統(tǒng)模型(ANFIS)參數(shù)，與之前使用梯度下降方法（Gradient Decent Method）不同，論文使用QPSO方法來訓練ANFIS模型中隸屬度函數(shù)的參數(shù)。經(jīng)過訓練后的ANFIS模型可以應用到非線性系統(tǒng)模型和混沌時序的預測。通過幾組仿真實驗結果表明基于量子粒子群方法訓練ANFIS模型要優(yōu)于基于粒子群算法方法訓練ANFIS模型。

粒子群；量子粒子群；模糊系統(tǒng)；ANFIS

1 介紹

模糊系統(tǒng)[1-2]已經(jīng)成功的應用在了多個領域，例如系統(tǒng)建模和控制。許多神經(jīng)學習或者統(tǒng)計學習方法中提出了利用自動生成模糊規(guī)則的方法來減輕系統(tǒng)的設計并提高系統(tǒng)性能。模糊推理系統(tǒng)采用ifthen規(guī)則的模型來對人類知識和推理過程中對那些不能進行精確的定量分析來進行定性的建模。Takagi和Sugeno首次提出模糊建模和模糊識別理論，Kang實際應用于控制、預測和推理過程中[3]。

論文采用基于自適應神經(jīng)網(wǎng)絡模糊推理系統(tǒng)（簡稱ANFIS）[4]，它可以作為構造模糊if-then規(guī)則的依據(jù)，來生成一組適當?shù)碾`屬度函數(shù)來生成輸入輸出對。通過訓練過程生成的自適應模糊系統(tǒng)被稱為進化模糊系統(tǒng)，也是近些年的研究熱點。ANFIS是其中的一個代表。TSK是一個新的方法并且應用于復雜應用。已經(jīng)證明利用適當?shù)囊?guī)則，TSK系統(tǒng)可以接近于任何目標。因此，TSK系統(tǒng)已經(jīng)ANFIS模型中得到廣泛應用，具有良好的適應性，它的優(yōu)點可以用于局部線性化建模和傳統(tǒng)線性狀態(tài)估計與控制技術。

ANFIS同時具有神經(jīng)網(wǎng)絡和模糊系統(tǒng)二者的優(yōu)點[5]。然而，ANFIS訓練參數(shù)時遇到的一個主要問題是真值的實際應用。ANFIS最主要的訓練方法是基于梯度下降法，在每一步計算梯度時因為使用鏈式規(guī)則可能會導致局部最小值問題。在局部搜索方法使用梯度方法是有效的，其搜索性能也取決于參數(shù)的初始值，這樣也使得很難找到全局最優(yōu)的學習速率。模糊系統(tǒng)的設計主要用于解決優(yōu)化問題，研究人員已經(jīng)提出在模糊系統(tǒng)設計中使用遺傳算法（GA）和粒子群優(yōu)化算法（PSO）[6]和多粒子協(xié)同優(yōu)化算法[7]。但是由于基本PSO算法不能保證全局的收斂性，孫俊等人提出了基于量子行為的粒子群算法（QPSO）[8]以及改進量子粒子群算法[9-10]。QPSO算法是一種變異的PSO，方法和靈感來源于量子力學。

QPSO的迭代方程優(yōu)于PSO，它是全局收斂的。除此之外，與PSO不同的是，QPSO不需要速度矢量同時需要更少的參數(shù)調整，從而更容易實現(xiàn)。QPSO算法已經(jīng)成功應用于廣泛的連續(xù)優(yōu)化問題。許多實證研究表明，QPSO具有較強的全局搜索能力，解決了許多連續(xù)優(yōu)化問題。

2 模糊系統(tǒng)和ANFIS模型

2.1 模糊系統(tǒng)

本節(jié)主要講述模糊系統(tǒng)在優(yōu)化方面的研究和數(shù)學模型。TSK模糊模型是由Takagi，Sugeno和Kang等人提出的。用形式化的方法來從一個輸入—輸出數(shù)據(jù)集中生成模糊規(guī)則。Takagi-Sugeno-Kang（TSK）模糊系統(tǒng)能夠實現(xiàn)零階和一階。第i條規(guī)則用Ri來表示，TSK模糊系統(tǒng)的表示形式如下所示：

Rj:if x1（k） is Ai1and…and xn（k） is Ainthen y（k） is fi，i=1，…，r

這里，k 表示的是時間步長，x1（k），…，xn（k） 表示輸入變量，y（k）是系統(tǒng)輸出變量，Aij表示模糊集合，fi表示相應的功能。模糊集合Aij使用鐘形隸屬度函數(shù)，公式如下所示

其中，ai，bi和 ci是模糊集合Aij的參數(shù)，ai表示寬度的一半，bi（連同ai） 用來控制交叉點的斜率，Cij表示隸屬度函數(shù)相應的中心。在模糊推理機中模糊與運算由模糊理論中的代數(shù)積來實現(xiàn)的。因此給出一個輸入數(shù)據(jù)集合 x=（x1，…，xn），第 i條規(guī)則的隸屬度函數(shù) μ（x）由以下計算得出

對于零階和一階TSK類型模糊系統(tǒng)，其相應函數(shù)fi分別設置為真值pi0，輸入變量的線性函數(shù)為假設有在一個模糊系統(tǒng)中有r條規(guī)則，則由以下方法進行加權平均后得出系統(tǒng)的輸出，

QPSO算法提出在每一個規(guī)則中去優(yōu)化參數(shù)ai，bi和 ci。

2.2 ANFIS系統(tǒng)結構的概述

1993年，由Jang首次提出神經(jīng)模糊網(wǎng)絡，即ANFIS模型。ANFIS是自適應網(wǎng)絡，節(jié)點是自適應的一部分，這意味著它們的輸出取決于參數(shù)屬于這些節(jié)點。兩種學習算法在訓練參數(shù)期間去改變參數(shù)來優(yōu)化性能。為了簡單起見，系統(tǒng)采用兩個輸入和一個輸出。TSK模糊模型的規(guī)則機包含兩個模糊if-then規(guī)則。一個典型的TSK模糊模型表示的兩個模糊規(guī)則如下：

其中，x，y表示ANFIS的輸入，A和B表示模糊集合，fi表示一階多項式，同時也代表了輸入一階TSK模糊推理系統(tǒng)。在上述的規(guī)則中，pi，qi和ri表示的是參數(shù)集合，也是隨之需要討論的參數(shù)問題。ANFIS結構如圖1所示，在每一層節(jié)點功能如下所述：第一層：這一層節(jié)點包含了自適應功能，描述如下：

其中，x，y表示輸入節(jié)點，A和B表示語言標簽，μ（x）和μ（y）表示隸屬度函數(shù)，通常采用一個鐘形來表示最大值是1，最小值是0

其中，ai，bi和 ci是集合參數(shù)，隨著這些參數(shù)值的改變，鐘形函數(shù)也會發(fā)生相應的變化，從而在語言標簽A和B方面表現(xiàn)出不同的隸屬度函數(shù)的形式。事實上任何連續(xù)和分段可微函數(shù)在這一層都具有河溝的候選節(jié)點，如常用的梯形或者三角隸屬度函數(shù)。參數(shù)在這一層稱為前提參數(shù)。

第二層：這一層為固定節(jié)點，節(jié)點用圓圈來表示，標記為Π，與節(jié)點函數(shù)乘以輸入信號作為輸出輸出ωi表示規(guī)則的觸發(fā)強度，節(jié)點輸出表示模糊規(guī)則的觸發(fā)強度。

第三層：該層為固定節(jié)點，節(jié)點用圓圈表示，并標記為Ni，每個節(jié)點使用歸一化函數(shù)來計算第i個節(jié)點的觸發(fā)強度除以所有節(jié)點的觸發(fā)強度之和。

方便起見，這一層的輸出稱為歸一化觸發(fā)強度。

第五層：該層也為固定節(jié)點。整體輸出用線性組合來表示后件參數(shù)。

圖1 ANFIS結構

2.3 混合學習算法

可以看出有兩個可修改的參數(shù)集合，即{ai，bi，ci}表示前件參數(shù)，{pi，qi，ri}表示后件參數(shù)。這種結構的訓練目的是通過調整上述兩個參數(shù)集合來使得ANFIS輸出合適的訓練數(shù)據(jù)。每個混合學習算法都是有兩個傳遞：一個向前傳遞，一個向后傳遞。在向前傳遞中，前件參數(shù)是為BP算法，利用最小二乘法來確定后件參數(shù)。找出最優(yōu)參數(shù)時，固定后件參數(shù)并向后傳遞。輸出節(jié)點的錯誤率傳播東輸出端到輸入端，前件參數(shù)利用梯度下降法進行更新。

更新前件參數(shù)的方法主要使用梯度下降法或者卡爾曼濾波方法，缺點是容易陷入局部最優(yōu)解。因此，該文主要采用QPSO算法來訓練ANFIS參數(shù)的目的主要是為了獲取全局最優(yōu)解。

3 量子行為粒子群優(yōu)化算法

對于M個個體，在PSO算法中，每個粒子在D維空間中被看成是沒有質量和體積的，在n次迭代中第 i個粒子的當前位置和速度表示為粒子的移動通過以下方程來完成：

for i=1，2，…，M； j=1，2，…，D， c1和 c2為加速因子，w 為慣性權重，向量Pi，n= （P1i，n，P2i，n…PDi，n）表示群體 i先前最優(yōu)值的位置，Gn= （G1n，G2n…GDn）表示最優(yōu)群體的位置和所有群體中全局最優(yōu)位置，稱為最優(yōu)最優(yōu)值。不失一般性，我們考慮以下最大化問題：

f（x）是一個連續(xù)的目標函數(shù)，S是一個可行性空間，因此Pi，n的更新如下：

修建智慧樓宇，實現(xiàn)綠色校園 在很多高校，智慧樓宇可將建筑物的電力、照明、空調、排水、消防、弱電和安保等自動化地進行集中監(jiān)視、控制和管理，為用戶提供安全舒適、便捷高效的工作與生活環(huán)境，改變以往的教學樓使用效率不高，有時擁擠、有時閑置，中央空調、照明、電器等能源沒有得到及時合理控制，造成很大浪費的情況。通過建設智能教學樓，使整個系統(tǒng)和各種設備處在最佳的工作狀態(tài)，并保證系統(tǒng)運行的經(jīng)濟性，以及管理的現(xiàn)代化、信息化和智能化，實現(xiàn)能耗的有效控制，減少能源浪費，實現(xiàn)綠色校園，提升和改善師生的校園生活品質。

或

在QPSO算法中，每個單粒子被認為在量子空間是受限的粒子。粒子群的狀態(tài)以波段函數(shù)Ψ為特征，其中 Ψ2表示位置的概率密度函數(shù)。假設在i個粒子中的在D維空間的第n次迭代中，潛在的中心在第 j維中（1≤j≤D）。 Vji，n+1= Xji，n-pji，n，可以得出在第n+1次歸一化的波動函數(shù)為

滿足的約束條件是如果 Yji，n+1→∞ 那么 Ψ（Yji，n+1）→0。 Lji，n是波段函數(shù)的特征長度。 通過波段函數(shù)的統(tǒng)計描述，給出的概率密度函數(shù)如下：

因此概率分布函數(shù)如下：

使用蒙特卡羅方法，在第n+1次迭代中可以測量出第i個粒子位置的第j維組成

3.1 量子粒子群算法如下：

步驟1：在空間中初始化粒子群中粒子的位置；

步驟2：計算出粒子群的平均最優(yōu)位置；

步驟3：計算粒子的當前適應值，并與前一次迭代的適應值比較，如果當前適應于前一次迭代的適應值，則根據(jù)粒子的位置更新為粒子當前的位置，即如 f[Xi（t）]＜ f[Pi（t）]，則 Pi（t）=Xi（t）；

步驟 4：計算群體當前的全局最優(yōu)位置，即 G（t） =Pg（t）， g=argmin {f [Pi（t）]}

步驟5：若當前全局最優(yōu)位置優(yōu)于上一次迭代的全局最優(yōu)位置，則群體的全局最優(yōu)位置更新為該當前全局最優(yōu)值；

步驟6：通過對粒子的每一維進行計算得到一個隨機點的位置；

步驟7：根據(jù)進化公式得出粒子新的位置；

步驟8：重復步驟2-7，直至循環(huán)結束。

3.2 量子粒子群優(yōu)化ANFIS算法過程：

步驟1：迭代次數(shù)t=1，初始化粒子群，第i個粒子的位置為Xi（t）；

步驟2：將ANFIS的前件參數(shù)設置為每個粒子的位置，然后根據(jù)公式（1-6）計算規(guī)則的適應度函數(shù)wj和歸一化適應度值（（1≤j≤l，l為規(guī)則數(shù)），根據(jù)公式計算得出系數(shù)矩陣A；然后采用公式（12），計算出后件參數(shù)；最后根據(jù)公式（14）計算出該粒子所對應的RMSE（即均方根誤差），作為該粒子的當前適應度值 fitness（Xi（t））=RMSEi（t）；

步驟3：計算得出粒子群平均最優(yōu)位置；

步驟4：計算粒子的當前適應值，若優(yōu)于上一次迭代的適應值比較，則將更新為當前的粒子位置，即如果

f[Xi（t）]＜ f[Pi（t）]，則 Pi（t）=Xi（t）；

步驟 5：計算群體當前的全局最優(yōu)位置，即 G（t）=Pg（t）；g=argmin{f[Pi（t）]}；

步驟6：若當前全局最優(yōu)位置優(yōu)于上一次迭代的全局最優(yōu)位置，則將群體的全局最優(yōu)位置更新為當前值；

步驟7：對粒子的每一維，計算得到一個隨機點的位置；

步驟8：根據(jù)進化公式計算粒子新的位置；

步驟9：重復步驟2-7，直至循環(huán)結束。

4 系統(tǒng)仿真實驗

接下來將通過兩組仿真實驗來驗證基于量子粒子群算法來訓練ANFIS模型的有效性和可行性。實驗主要利用非線性系統(tǒng)辨識、多峰函數(shù)以及對于混沌時間序列的預測。對于誤差分析，這里采用統(tǒng)一的均方根誤差（root mean squared error，RMSE）方法，

其中f（i）為實際的輸出，f0（i）為模糊系統(tǒng)的輸出，n為系統(tǒng)輸入輸出數(shù)據(jù)的總個數(shù)。

PSO算法和QPSO算法的粒子群規(guī)模為50個，QPSO算法的α值從1遞減到0.5，PSO算法中的參數(shù)設置為三種算法ω=0.7，c1=1.5，c2=1.5，三種算法ANFIS，PSO-ANFIS和QPSO-ANFIS的迭代次數(shù)均取為2000次。

模型1：非線性單輸入單輸出系統(tǒng)

非線性系統(tǒng)方程為：

其中x為輸入變量，y為輸出變量，在ANFIS模型中，我們取五個隸屬度函數(shù)，則將會產(chǎn)生五條模糊規(guī)則，隸屬度函數(shù)取為高斯函數(shù)，高斯函數(shù)中包含兩個參數(shù)，則我們分別對模糊系統(tǒng)的前件參數(shù)的個數(shù)設置為10，后件的參數(shù)個數(shù)也設置為10，同時我們在區(qū)間選取100個數(shù)值作為模糊系統(tǒng)輸入變量x的輸入數(shù)據(jù)。

圖2 系統(tǒng)實際輸出與QPSO-ANFIS輸出誤差

模型2：非線性多輸入單輸出系統(tǒng)

非線性系統(tǒng)方程為：

其中x1，x2，x3是非線性系統(tǒng)的三個輸入變量，y為輸出變量，對每個輸入變量分別取兩個隸屬度函數(shù)來進行建模，則該系統(tǒng)是由八條模糊規(guī)則組成，隸屬度函數(shù)取為高斯函數(shù)。則我們對該模糊推理系統(tǒng)的前件參數(shù)設置為16，后件參數(shù)個數(shù)也設置為32個。對區(qū)間范圍[-1，1]×[-1，1]×[-1，1]中選取500個點作為系統(tǒng)的輸入數(shù)據(jù)。對于這500組數(shù)據(jù)，其中250組用于訓練數(shù)據(jù)，另外250組用于測試。

圖3 實際輸出與模糊系統(tǒng)輸出誤差

從表1中所列出的結果可以我們看出，使用了QPSO訓練ANFIS模型后的模糊系統(tǒng)的均方根誤差要比ANFIS模型的均方根誤差要小。如圖3所表示的是模糊系統(tǒng)的訓練數(shù)據(jù)誤差與模糊系統(tǒng)在QPSO-ANFIS方法后的訓練數(shù)據(jù)的誤差。如圖4所表示的是模糊系統(tǒng)的測試數(shù)據(jù)誤差與模糊系統(tǒng)在QPSO-ANFIS方法后的測試數(shù)據(jù)的誤差。

表1 ANFIS，PSO-ANFIS與QPSO-ANFIS數(shù)據(jù)對比

模型3：QPSO-ANFIS在混沌時間序列中的預測Machey-Glass的微分方程是：

其中 τ為時延參數(shù)；t為時間，x（t）為混沌信號

因為初始條件設置的敏感性，這里給定的混沌時間序列的初始值是x（0）=1.2；時延τ=17。取D=4，k=p=6，則對于模糊系統(tǒng)訓練數(shù)據(jù)的輸入變量具有如下：

在本次實驗的模糊系統(tǒng)訓練的輸入輸出數(shù)據(jù)形式如下：

data（t） =[x（t-18） x（t-12） x（t-6） x（t） x（t+6）]

其中 x（t-18），x（t-12），x（t-6），x（t）為系統(tǒng)的輸入變量，x（t+6）為系統(tǒng)的預測輸出。

該非線性系統(tǒng)有4個輸入變量，對每個變量分別取2個隸屬度函數(shù)進行建模。從t=118～1117，可以從中選中選取1000個點作為系統(tǒng)的輸入數(shù)據(jù)。

由此我們得到了1000組符合這一非線性系統(tǒng)關系的數(shù)據(jù)對，其中前500組用于訓練，另外500組用于測試。使用兩種算法分別用于識別此非線性系統(tǒng)。三種算法的迭代次數(shù)均取為2000次，系統(tǒng)在x（624）～x（1124）的數(shù)據(jù)與模糊系統(tǒng)在QPSO-ANFIS算法下的預測輸出。

圖4 期望輸出與QPSO-ANFIS方法下的模糊系統(tǒng)輸出對比圖

5 結論

在本文中，提出了一種利用量子粒子群算法應用于ANFIS模型中去，同時分別將QPSO應用到不同的輸入系統(tǒng)、以及混沌時間的序列預測，根據(jù)實驗的仿真結果表明，QPSO-ANFIS的誤差要明顯優(yōu)于ANFIS和PSO-ANFIS，提高了全局尋優(yōu)能力。

參考文獻：

[1]ZADEH L A.Fuzzy sets[J].Information and Control，l965，（8）:338-353.

[2]王立新.模糊系統(tǒng)與模糊控制教程[M].北京:清華大學出版社，2003:70-98.

[3]謝季堅.模糊數(shù)學方法及其應用（第三版）[M].武漢:華中科技大學出版社，2005.

[4]JANG J R.ANFIS:adaptive-network-based fuzzy inference system[J].IEEE Transactions on Systems Man&Cybernetics，1993，（3）:665-685.

[5]張小娟.自適應神經(jīng)模糊推理系統(tǒng)（ANFIS）及其仿真[J].電子設計工程，2012，（5）:11-13.

[6]李愛國，覃征，鮑復民，等.粒子群優(yōu)化算法[J].計算機工程與應用，2002，（21）:1-3.

[7]李愛國.多粒子群協(xié)同優(yōu)化算法[J].復旦學報（自然科學版），2004，（5）:923-925.

[8]SUN J，XU W，F(xiàn)ENG B.A global search strategy of quantum-behaved particle swarm optimization[C]//Proceedings of the 2004 IEEE Conference on Cybernetics and Intelligent Systems， Singapore， 2004:111-115.

[9]LI P,XIAO H.An improved quantum-behaved particle swarm optimization algorithm[J].Applied Intelligence，2014，（3）:1-3.

[10]CHEN W，ZHOU D，SUN J，at el.Improved quantum-behaved particle swarm optimization algorithm based on comprehensive learning strategy[J].Control&Decision,2012，（27）:719-712.

A STUDY ON TRAINING ANFIS MODEL BASED ON THE METHOD OF QUANTUM PARTICLE SWARM

ZHANG Zheng-jin1WU Jian-wei2
（1 Chaohu College， Chaohu Anhui 238000）（2 Hefei Normal University， Hefei Anhui 230601）

This paper proposes a parameter of self-adaptive fuzzy inference system （ANFIS） based on quantum particle swarm optimization algorithm, different from the previous Gradient Decent Method. It uses Quantum-behaved Particle Swarm Optimization （QPSO） method to train the parameters of membership function in ANFIS model.The ANFIS trained by the proposed method can be applied to nonlinear system modeling and chaotic prediction.The several simulation results show that training ANFIS model based on QPSO method performs much better than the original Particle Swarm Optimization （PSO）method.

Particle swarm；Quantum particle swarm；Fuzzy system；ANFIS

TP399

A

：1672-2868（2017）03-0042-08

責任編輯：陳 侃

2017-03-05

巢湖學院校級科研項目（項目編號：XLY-201613）；國家自然科學基金項目（項目編號：11401056）

張正金（1985-），男，安徽合肥人。巢湖學院信息工程學院，助教。研究方向：模糊系統(tǒng)與進化計算。