基于改進(jìn)PDF技術(shù)的間歇過程N(yùn)FM模型

付釗，賈立（上海大學(xué)機(jī)電工程與自動(dòng)化學(xué)院自動(dòng)化系，上海市電站自動(dòng)化重點(diǎn)實(shí)驗(yàn)室，上海 200072）

?

基于改進(jìn)PDF技術(shù)的間歇過程N(yùn)FM模型

付釗，賈立
（上海大學(xué)機(jī)電工程與自動(dòng)化學(xué)院自動(dòng)化系，上海市電站自動(dòng)化重點(diǎn)實(shí)驗(yàn)室，上海 200072）

摘要：間歇過程是一類具有典型復(fù)雜非線性特性的生產(chǎn)過程，可以利用模糊神經(jīng)網(wǎng)絡(luò)(NFM)建立其輸入輸出的非線性映射關(guān)系。在前期的研究中曾提出過基于概率密度函數(shù)（PDF）技術(shù)的模型訓(xùn)練方法，成功解決了傳統(tǒng)的基于MSE準(zhǔn)則訓(xùn)練方法模型泛化能力弱的問題，但又產(chǎn)生了概率密度難以估計(jì)及目標(biāo)PDF未知時(shí)模型性能不穩(wěn)定的問題。針對(duì)這兩個(gè)問題，引入了新的概率密度窗寬估計(jì)方法，并提出了在目標(biāo)PDF未知時(shí)采用PDF預(yù)估器及其收縮策略的算法。仿真實(shí)驗(yàn)表明：該方法能夠保證足夠的概率密度估計(jì)精度和模型預(yù)測(cè)性能。

關(guān)鍵詞：間歇過程；神經(jīng)模糊模型；概率密度函數(shù)；收縮策略；算法；預(yù)測(cè)

2015-12-17收到初稿，2015-12-19收到修改稿。

聯(lián)系人：賈立。第一作者：付釗（1987—），男，碩士研究生。

引 言

間歇過程（batch process）是精細(xì)化工、生物制藥和食品飲料等生產(chǎn)行業(yè)的主要生產(chǎn)方式[1]。由于其機(jī)理異常復(fù)雜且具有極強(qiáng)的非線性，想要建立其機(jī)理模型需要耗費(fèi)大量的時(shí)間與資源[2]。在以信息化為導(dǎo)向的現(xiàn)代工業(yè)企業(yè)中每天都在產(chǎn)生海量的數(shù)據(jù)，這些數(shù)據(jù)在一定程度上隱藏著工業(yè)生產(chǎn)的過程信息。如何通過數(shù)據(jù)模型來(lái)有效利用這些離、在線數(shù)據(jù)為工業(yè)生產(chǎn)的優(yōu)化與控制服務(wù)是非常有意義的一個(gè)研究課題[3]。

作為數(shù)據(jù)模型領(lǐng)域的兩種代表性的理論方法：模糊理論通過構(gòu)建模糊集、隸屬度函數(shù)以及包含專家經(jīng)驗(yàn)的模糊規(guī)則來(lái)完成對(duì)難以描述的復(fù)雜系統(tǒng)的建模；而神經(jīng)網(wǎng)絡(luò)則通過其自身強(qiáng)大分布式并行非線性映射能力和學(xué)習(xí)能力來(lái)對(duì)系統(tǒng)的非線性進(jìn)行擬合[4]。而將這兩種技術(shù)結(jié)合所形成的神經(jīng)模糊系統(tǒng)能夠在利用神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)與非線性映射能力優(yōu)糊規(guī)則和隸屬度函數(shù)的同時(shí)，利用模糊部分加強(qiáng)神經(jīng)網(wǎng)絡(luò)的自控能力以減少人們主觀因素的影響，因而具有更為優(yōu)異的性能[5-7]。

傳統(tǒng)的模型訓(xùn)練中往往采用的是以統(tǒng)計(jì)指標(biāo)均方差（MSE）為準(zhǔn)則的參數(shù)辨識(shí)方法。該方法并未考慮輸出誤差序列的空間分布狀態(tài)，因而只能算作對(duì)理想模型的一種局部逼近，并不能保證所訓(xùn)練出模型的泛化能力。1996年，捷克學(xué)者Karny[8]首次提出了概率密度函數(shù)（PDF）控制的概念。2007年王宏等[9]針對(duì)模型參數(shù)在有界區(qū)域內(nèi)隨機(jī)變化的系統(tǒng)，提出了基于平方根B樣條模型的輸出PDF跟蹤控制策略，并將其成功應(yīng)用于造紙過程的控制之中。2012年，賈立等[10]在間歇過程的數(shù)據(jù)驅(qū)動(dòng)建模方法中引入PDF控制的概念，在保證建模精度的同時(shí)有效提高了模型的魯棒性與泛化能力。但是，該方法在應(yīng)用過程中遇到了兩個(gè)問題：①概率密度估計(jì)的準(zhǔn)確度不夠高；②當(dāng)目標(biāo)PDF信息不能給定時(shí)，采用基于最小熵準(zhǔn)則進(jìn)行參數(shù)辨識(shí)容易出現(xiàn)性能不穩(wěn)定的情況。能否解決上述問題，直接關(guān)系到PDF技術(shù)是否能夠順利應(yīng)用到間歇過程建模之中。為此，本文在前期研究的基礎(chǔ)上引入新的概率密度窗寬確定方法。該方法能夠自動(dòng)根據(jù)樣本分布情況確定窗寬以進(jìn)行準(zhǔn)確的概率密度估計(jì)。此外，針對(duì)目標(biāo)PDF信息未知的情況，在構(gòu)建目標(biāo)PDF估計(jì)器的基礎(chǔ)上，采用收縮策略來(lái)動(dòng)態(tài)地指導(dǎo)模型的訓(xùn)練過程。

1 基于PDF技術(shù)的間歇過程N(yùn)FM模型

基于PDF技術(shù)的模型訓(xùn)練方法將間歇過程數(shù)據(jù)模型的可調(diào)參數(shù)作為控制系統(tǒng)的輸入，將模型誤差的PDF作為控制系統(tǒng)的輸出，從而成功地將模型開環(huán)辨識(shí)問題轉(zhuǎn)化為輸出PDF控制問題。通過可調(diào)參數(shù)控制模型誤差的空間分布狀態(tài)，不僅能夠保障模型精度，而且可以控制模型誤差的空間分布狀態(tài)，使建模誤差的分布趨近于正態(tài)分布，從而避免了采用MSE準(zhǔn)則訓(xùn)練模型可能引發(fā)的模型誤差空間分布不規(guī)則的情況[11]。

1.1 NFM模型結(jié)構(gòu)

本文所采用的NFM模型由5層前向網(wǎng)絡(luò)構(gòu)成：第1層為模型輸入層，共包含ny+nu個(gè)節(jié)點(diǎn)，且每個(gè)輸入信號(hào)分別對(duì)應(yīng)一個(gè)節(jié)點(diǎn)，該節(jié)點(diǎn)將輸入信號(hào)傳遞到下一層；第2層為模糊化層，包括(ny+nu)×N個(gè)節(jié)點(diǎn)組成（式中N為模糊規(guī)則IF-THEN數(shù)量），每個(gè)節(jié)點(diǎn)對(duì)應(yīng)一個(gè)隸屬度函數(shù)，表示一個(gè)語(yǔ)言變量值；第3層為模糊條件層，每個(gè)節(jié)點(diǎn)表示一條模糊規(guī)則，計(jì)算出每條規(guī)則的使用度，由N個(gè)節(jié)點(diǎn)構(gòu)成；第4層為模糊決策層，由兩個(gè)節(jié)點(diǎn)組成；最后1層為輸出層，由1個(gè)節(jié)點(diǎn)組成。模型輸出可以用式（1）表達(dá)

式中，μj(xi)表示高斯型隸屬度函數(shù)；wj表示第j條模糊規(guī)則子集；cji和θj分別為隸屬度函數(shù)的中心和寬度[12]。此外，為了提高模型精度，模糊規(guī)則后件參數(shù)可以采用常量形式[式（2）]、線性函數(shù)形式[式（3）]或者非線性函數(shù)形式[式（4）]來(lái)表示。

利用PDF技術(shù)對(duì)NFM系統(tǒng)的參數(shù)wj實(shí)現(xiàn)辨識(shí)，需要采集模型預(yù)測(cè)輸出序列? { ( )} y k，并結(jié)合過程實(shí)際輸出序列{ ( )}

t y k來(lái)獲取模型的輸出誤差序列

t

圖1 窗寬對(duì)概率密度估計(jì)的影響Fig.1 Influence of window width on PDF estimation

因此，在實(shí)際應(yīng)用中hP需要根據(jù)經(jīng)驗(yàn)謹(jǐn)慎選擇。如在前期研究中，選擇的窗寬函數(shù)為hP=，其中N為樣本序列長(zhǎng)度，sig為根據(jù)經(jīng)驗(yàn)選取的窗寬參數(shù)（一般取0.25）。然而該窗寬在實(shí)際使用中并不能非常好地適應(yīng)樣本分布的變化。為此，采用新的窗寬對(duì)樣本進(jìn)行概率密度估計(jì)，具體表達(dá)式如下

式中，median(x)函數(shù)表示序列x的中位數(shù)[13]。上述窗寬的選擇考慮了樣本的分布特性，能夠更好地針對(duì)樣本進(jìn)行概率密度估計(jì)。在獲得模型輸出誤差的PDF之后，就可以通過極小化下述目標(biāo)函數(shù)實(shí)現(xiàn)對(duì)模型參數(shù)wj的求解

通過PDF技術(shù)訓(xùn)練出的模型不僅擁有足夠高的精度，還可以使建模誤差的分布趨近于正態(tài)分布，從而避免采用MSE準(zhǔn)則可能引發(fā)的模型誤差空間分布不規(guī)則的情況，保證了模型的泛化能力。

1.2 NFM模型參數(shù)辨識(shí)

間歇過程N(yùn)FM模型前件參數(shù)的作用是根據(jù)訓(xùn)練數(shù)據(jù)來(lái)靈活地劃分模糊集合，即將間歇過程的非線性模型在空間中分成幾個(gè)不同的區(qū)域以達(dá)到減少模糊規(guī)則數(shù)，增強(qiáng)區(qū)域分布合理性的目的。通過改進(jìn)的最近鄰聚類算法對(duì)模型的前件參數(shù)cji和θj進(jìn)行辨識(shí)[14-15]。對(duì)模型后件參數(shù)的辨識(shí)將采用PDF技術(shù)來(lái)進(jìn)行。由于在實(shí)際工業(yè)生產(chǎn)過程中，目標(biāo)PDF的信息經(jīng)常是無(wú)法預(yù)先獲取的，因此在NFM模型后件參數(shù)的辨識(shí)中就需要分別考慮目標(biāo)PDF信息能否給定這兩種不同的前提條件來(lái)設(shè)計(jì)不同的策略來(lái)進(jìn)行辨識(shí)（圖2）。

此外，考慮到目標(biāo)函數(shù)式（8）的求解屬于復(fù)雜的非線性優(yōu)化問題，而以遺傳算法（GA）、模擬退火算法（SA）、粒子群算法（PSO）等為代表的智能優(yōu)化算法在處理該類問題時(shí)能夠有效避免傳統(tǒng)優(yōu)化算法易陷入局部最優(yōu)的問題，且具有較快的收斂速度[16-19]。因此，采用遺傳算法對(duì)目標(biāo)函數(shù)進(jìn)行優(yōu)化求解。

圖2 基于PDF技術(shù)的間歇過程N(yùn)FM模型Fig.2 PDF based NFM of batch process

1.2.1 目標(biāo)PDF已知時(shí)NFM后件參數(shù)辨識(shí) 當(dāng)目標(biāo)PDF信息能夠被明確給定時(shí)，利用PDF技術(shù)可以非常方便地通過調(diào)節(jié)參數(shù)wj來(lái)實(shí)現(xiàn)模型輸出誤差概率密度函數(shù)p(e(kt))對(duì)目標(biāo)ptarget的跟蹤?？紤]到概率密度函數(shù)的圖形特性，對(duì)目標(biāo)ptarget和模型輸出誤差p(e(kt))這兩個(gè)概率密度函數(shù)的差值絕對(duì)值進(jìn)行積分，即通過最小化下述目標(biāo)函數(shù)來(lái)調(diào)節(jié)模型的參數(shù)，使兩條概率密度曲線之間的差異最小化。

算法的具體操作步驟如下。

（1）采集間歇過程K個(gè)批次上的輸入輸出數(shù)據(jù)，并將這些數(shù)據(jù)在時(shí)間軸上展開，作為訓(xùn)練的樣本數(shù)據(jù)；

（2）確定核估計(jì)的窗函數(shù)?，窗寬hP及目標(biāo)ptarget；

（3）采用聚類算法計(jì)算前件參數(shù)cji和θj，隨機(jī)初始化NFM后件參數(shù)wj并計(jì)算模型的預(yù)測(cè)輸出；

（5）將模型輸出誤差PDF代入目標(biāo)函數(shù)式（9）中，使用遺傳算法通過調(diào)節(jié)wj值來(lái)極小化目標(biāo)函數(shù)。

1.2.2 目標(biāo)PDF未知時(shí)NFM后件參數(shù)辨識(shí) 考慮到在實(shí)際生產(chǎn)過程中經(jīng)常會(huì)存在目標(biāo)概率密度函數(shù)信息未知的情況，在前期的研究中曾提出了一種基于最小熵的模型參數(shù)辨識(shí)方法。該方法采用信息熵來(lái)度量模型誤差分布的不確定性，并通過最小化模型輸出誤差序列的熵值來(lái)調(diào)節(jié)模型參數(shù)。如果用p(e(kt))表示模型誤差的概率密度函數(shù)，則相應(yīng)的熵值可以表示為

依此可建立下述目標(biāo)函數(shù)的表達(dá)式以指導(dǎo)NFM后件參數(shù)的調(diào)整

由于基于最小熵的PDF技術(shù)在應(yīng)用中存在性能不穩(wěn)定的缺點(diǎn)，本節(jié)擬采用線性ARX模型來(lái)搭建一個(gè)簡(jiǎn)易的PDF預(yù)估器，然后通過應(yīng)用PDF收縮策略來(lái)求解模型參數(shù)。利用間歇過程數(shù)據(jù)所建立的ARX模型可以表示如下

相應(yīng)的模型輸出誤差序列為

式中，yi表示間歇過程實(shí)際輸出，表示ARX模型輸出。利用該誤差序列ek, i估計(jì)出NFM模型的一個(gè)概略目標(biāo)PDF（該P(yáng)DF估計(jì)值僅使用標(biāo)準(zhǔn)差σ信息，均值μ取為0）

由于間歇過程具有很強(qiáng)的非線性，利用其生產(chǎn)數(shù)據(jù)所建立的線性ARX模型在估計(jì)性能上相對(duì)于訓(xùn)練好的非線性NFM模型更弱一些，具體表現(xiàn)為在模型輸出誤差帶上前者的分布表現(xiàn)得更為離散（圖3），且概率密度曲線更加矮、寬（圖4）[20]。

因此，可以考慮在所建立的ARX預(yù)估值基礎(chǔ)之上再設(shè)定一個(gè)PDF收縮策略指導(dǎo)算法更新所跟蹤的目標(biāo)PDF值

圖3 ARX和NFM模型輸出誤差帶示意圖Fig.3 Output error band of ARX and NFM

圖4 ARX和NFM模型輸出誤差PDFFig.4 Output error PDF of ARX and NFM

因此，可以考慮設(shè)定下述收縮策略的停止條件對(duì)收縮過程進(jìn)行限定

式中，Diff為跟蹤偏移率；DiffRatio為預(yù)先設(shè)置的收縮策略終止閾值（需要根據(jù)實(shí)際情況設(shè)定）。如果模型的跟蹤偏移率大于DiffRatio，則判定該算法達(dá)到性能極限從而停止PDF收縮并跳出優(yōu)化進(jìn)程，輸出所保存的上一輪優(yōu)化的結(jié)果。目標(biāo)PDF的收縮過程大致可以用圖5表示，圖中高度最低PDF曲線為PDF預(yù)估器獲得的初始目標(biāo)PDF；中間層的PDF曲線為應(yīng)用收縮策略時(shí)的目標(biāo)PDF；高度最高的曲線為達(dá)到停止條件時(shí)的目標(biāo)PDF。圖中曲線高度由低變高的過程則表示收縮策略的運(yùn)行情況。

圖5 目標(biāo)PDF收縮效果Fig.5 Contraction of target PDF

（1）采集間歇過程K個(gè)批次上的輸入輸出數(shù)據(jù)，并將這些數(shù)據(jù)在時(shí)間軸上展開，作為訓(xùn)練的樣本數(shù)據(jù)；

（2）確定核估計(jì)的窗函數(shù)?，窗寬hP；

（3）利用ARX預(yù)估器獲取初始目標(biāo)PDF；

（4）采用聚類算法獲取前件參數(shù)cji和θj，隨機(jī)初始化NFM后件參數(shù)wj并計(jì)算模型的預(yù)測(cè)輸出；

（6）將模型輸出誤差PDF代入目標(biāo)函數(shù)式（9）中，使用遺傳算法通過調(diào)節(jié)wj值極小化目標(biāo)函數(shù)；

（7）判斷是否達(dá)到收縮策略終止條件。若未達(dá)到終止條件，則應(yīng)用收縮策略更新目標(biāo)PDF并將當(dāng)前最優(yōu)wj作為初始值重新開始優(yōu)化；若達(dá)到終止條件，則輸出系統(tǒng)所保存的上一次優(yōu)化結(jié)果最優(yōu)值及對(duì)應(yīng)的目標(biāo)PDF作為最終優(yōu)化結(jié)果。

2 仿真研究

為驗(yàn)證本文提出的算法的有效性，仿真中采用一種典型的間歇生產(chǎn)過程反應(yīng)器[21]。其反應(yīng)過程為，表達(dá)式為

式中，x1和x2分別表示A和B的量綱1濃度；T為反應(yīng)器溫度。仿真中取同時(shí)對(duì)T進(jìn)行歸一化處理其中Tmin和Tmax分別為298 K和398 K，tf= 1.0 h。

稱取5.0 g的刺葡萄皮各3份，加入0.4%鹽酸溶液100 mL，于恒溫40℃下水浴浸提40 min后過濾。濾渣在相同浸提條件下再進(jìn)行多次浸提。確定完全浸提花青素所需次數(shù)。

取初始條件為：x1(0) = 1，x2(0) = 0。Td為控制變量，且0≤Td≤1，x2( t )為輸出變量，控制優(yōu)化的性能指標(biāo)是要最大化B的批次終點(diǎn)濃度x2( tf)。

2.1 基于改進(jìn)窗寬PDF技術(shù)性能仿真

為驗(yàn)證提出的改進(jìn)窗寬估計(jì)對(duì)基于PDF技術(shù)的NFM模型的跟蹤性能的影響，仿真中將目標(biāo)PDF的標(biāo)準(zhǔn)差分別選定為0.030、0.025和0.020。然后利用原始窗寬和改進(jìn)窗寬對(duì)分別進(jìn)行估計(jì)，并利用PDF技術(shù)來(lái)訓(xùn)練NFM。在上述3種目標(biāo)PDF下，模型的跟蹤效果如圖6～圖11所示。通過對(duì)比可發(fā)現(xiàn)，在使用改進(jìn)窗寬之后，基于PDF技術(shù)的NFM系統(tǒng)對(duì)目標(biāo)PDF的跟蹤性能得到了很大提升。在其跟蹤性能范圍之內(nèi)能夠使模型輸出誤差的PDF對(duì)目標(biāo)PDF實(shí)現(xiàn)非常精準(zhǔn)的跟蹤，進(jìn)而說明了在PDF技術(shù)中引入改進(jìn)窗寬的有效性與必要性。

圖6 目標(biāo)PDF為0.03時(shí)原始估計(jì)跟蹤效果Fig.6 Original tracking effect of target PDF (0.03)

圖7 目標(biāo)PDF為0.03時(shí)改進(jìn)估計(jì)跟蹤效果Fig.7 Improved tracking effect of target PDF (0.03)

2.2 目標(biāo)PDF已知時(shí)NFM模型辨識(shí)仿真

在本例仿真實(shí)驗(yàn)中，已知間歇過程輸出誤差序列的目標(biāo)PDF值為。首先根據(jù)經(jīng)驗(yàn)選定模糊空間劃分?jǐn)?shù)為8，并使用改進(jìn)最近鄰聚類算法對(duì)前件參數(shù)cji和θj進(jìn)行辨識(shí)；然后在獲得前件參數(shù)之后利用改進(jìn)窗寬估計(jì)的PDF技術(shù)對(duì)后件參數(shù)wj進(jìn)行辨識(shí)與優(yōu)化。

圖8 目標(biāo)PDF為0.025時(shí)原始估計(jì)跟蹤效果Fig.8 Original tracking effect of target PDF (0.025)

圖9 目標(biāo)PDF為0.025時(shí)改進(jìn)估計(jì)跟蹤效果Fig.9 Improved tracking effect of target PDF (0.025)

圖10 目標(biāo)PDF為0.02時(shí)原始估計(jì)跟蹤效果Fig.10 Original tracking effect of target PDF (0.02)

通過仿真，可知模型訓(xùn)練的輸出誤差MSE= 6.79×10?4，模型測(cè)試的輸出誤差MSE= 7.49×10?4；此外，模型的訓(xùn)練與測(cè)試的輸出效果如圖12～圖17所示，從圖中可以看到，經(jīng)過訓(xùn)練后的模型輸出誤差PDF能夠非常好地跟蹤目標(biāo)PDF，而且當(dāng)其進(jìn)行測(cè)試輸出時(shí)其輸出誤差PDF曲線也趨近于高斯分布。

圖11 目標(biāo)PDF為0.02時(shí)改進(jìn)估計(jì)跟蹤效果Fig.11 Improved tracking effect of target PDF (0.02)

圖12 模型的訓(xùn)練輸出Fig.12 Output of model training

圖13 模型的訓(xùn)練輸出誤差Fig.13 Output error of model training

2.3 目標(biāo)PDF未知時(shí)NFM模型辨識(shí)仿真

在目標(biāo)PDF信息未知時(shí)，同樣可以首先通過改進(jìn)最近鄰聚類算法對(duì)前件參數(shù)進(jìn)行辨識(shí)；然后利用PDF預(yù)估器來(lái)獲取初始目標(biāo)PDF值；最后，采用PDF收縮策略來(lái)構(gòu)建優(yōu)化算法對(duì)NFM后件參數(shù)進(jìn)行辨識(shí)。

圖14 模型的訓(xùn)練輸出誤差PDFFig.14 Output error PDF of model training

圖15 模型的測(cè)試輸出Fig.15 Output of model testing

圖16 模型的測(cè)試輸出誤差Fig.16 Output error of model testing

本次仿真中，PDF收縮策略的收縮系數(shù)β=0.9，跟蹤偏移率閾值選為DiffRatio= 0.05，即PDF收縮策略為

圖17 模型的測(cè)試輸出誤差PDFFig.17 Output error PDF of model testing

圖18 模型訓(xùn)練時(shí)目標(biāo)PDF收縮示意圖Fig.18 Contraction of target PDF in model training

圖19 模型的訓(xùn)練輸出Fig.19 Output of model training

仿真結(jié)果如圖18～圖26所示，其中圖18為PDF收縮策略的運(yùn)行結(jié)果，圖中高度最低的一條曲線為ARX預(yù)估器所估計(jì)的目標(biāo)PDF，最高的一條曲線為滿足PDF收縮策略終止條件時(shí)的目標(biāo)PDF。

圖20 模型的訓(xùn)練輸出誤差Fig.20 Output error of model training

圖21 模型的訓(xùn)練輸出誤差PDFFig.21 Output error PDF of model training

圖22 模型的測(cè)試輸出Fig.22 Output of model testing

基于收縮策略的PDF技術(shù)的NFM模型訓(xùn)練輸出誤差MSE= 6.63×10?4，測(cè)試輸出誤差MSE= 8.40×10?4；而采用最小熵方法求解出的模型訓(xùn)練輸出誤差MSE= 6.84×10?4，測(cè)試輸出誤差MSE=9.76×10?4。兩種算法在MSE指標(biāo)上并沒有太大差異，但是從圖21和圖25以及圖24和圖26可以明顯看出，基于收縮策略的PDF技術(shù)所訓(xùn)練出的模型，無(wú)論是訓(xùn)練輸出誤差PDF曲線還是測(cè)試輸出誤差PDF曲線均更趨近于高斯分布，因此該模型具有更強(qiáng)的泛化能力。

圖23 模型的測(cè)試輸出誤差Fig.23 Output error of model testing

圖24 模型的測(cè)試輸出誤差PDFFig.24 Output error PDF of model testing

圖25 基于最小熵的模型訓(xùn)練誤差PDFFig.25 Output error PDF of minimum entropy based model training

圖26 基于最小熵的模型測(cè)試誤差PDF圖Fig.26 Output error PDF of minimum entropy based model testing

3 結(jié) 論

針對(duì)PDF技術(shù)在間歇過程N(yùn)FM模型應(yīng)用中的不足之處提出了改進(jìn)方法。在概率密度估計(jì)方法中引入全新的窗寬計(jì)算方法，從而在實(shí)現(xiàn)更為精準(zhǔn)的概率密度估計(jì)的同時(shí)使NFM的訓(xùn)練過程能夠更為精確地跟蹤目標(biāo)PDF。此外，針對(duì)目標(biāo)PDF未知的情況引入了PDF預(yù)估器和收縮策略來(lái)實(shí)現(xiàn)模型參數(shù)的辨識(shí)與優(yōu)化，提高了模型的預(yù)測(cè)性能與泛化能力。通過上述改進(jìn)，使PDF技術(shù)在NFM模型中的應(yīng)用更加成熟與穩(wěn)定，因而可以很方便地?cái)U(kuò)展到其他模型中進(jìn)行應(yīng)用。

References

[1] 陸寧云, 王福利, 高福榮, 等. 間歇過程的統(tǒng)計(jì)建模與在線監(jiān)測(cè)[J]. 自動(dòng)化學(xué)報(bào), 2006, 32 (3): 400-410.

LU N Y, WANG F L, GAO F R, et al. Statistical modeling and online monitoring for batch processes [J]. Acta Automatic Sinica, 2006, 32 (3): 400-410.

[2] 楊志才.化工生產(chǎn)過程中的間歇過程——原理、工藝及設(shè)備[M]. 北京: 化學(xué)工業(yè)出版社, 2001: 5-12.

YANG Z C. Batch Process in Chemical Engineering— Principle, Technology and Equipment [M]. Beijing: Chemical Industry Press, 2001: 5-12.

[3] 侯忠生. 數(shù)據(jù)驅(qū)動(dòng)控制理論及方法的回顧和展望 [J]. 自動(dòng)化學(xué)報(bào), 2009, 35 (6): 651-654.

HOU Z S. On data-driven control theory: the state of the art and perspective [J]. Acta Automatic Sinica, 2009, 35 (6): 651-654.

[4] 叢爽. 神經(jīng)網(wǎng)絡(luò)、模糊系統(tǒng)及其在運(yùn)動(dòng)控制中的應(yīng)用 [M]. 合肥:中國(guó)科學(xué)技術(shù)大學(xué)出版社, 2001: 30-42.

CONG S. Neural Network, Fuzzy System and Its Application in Motion Control [M]. Hefei: University of Science & Technology China Press, 2001: 30-42

[5] HAYASHI Y, NAKAI M. Automated exaction of fuzzy IF-THEN rules using neural networks [J]. Transactions of the Institute of Electric Engineers of Japan, 1990, 110 (3): 198-206.

[6] YU Z, LI S, DU H. Adaptive neural output feedback control for stochastic nonlinear systems with unknown control directions [J]. Neural Computing & Applications, 2014, 25 (7/8): 1979-1992.

[7] 叢爽. 幾種模糊神經(jīng)網(wǎng)絡(luò)系統(tǒng)關(guān)系的對(duì)比研究 [J]. 信息與控制, 2001, (6): 486-491.

CONG S. Comparative research on relationships between several fuzzy-neural network systems [J]. Information and Control, 2001, (6): 486-491.

[8] Karny M. Toward fully probabilistic control design [J]. Automatica, 1996, (32): 1719-1722.

[9] 陳海永, 王宏. 基于LMI的參數(shù)隨機(jī)變化系統(tǒng)的概率密度函數(shù)控制 [J]. 自動(dòng)化學(xué)報(bào), 2007, (11): 1216-1219.

CHEN H Y, WANG H. PDF control of stochastic parameter system using linear matrix inequalities [J]. Acta Automatica Sinica, 2007, (11): 1216-1219.

[10] 賈立, 曹魯明, 邱銘森. 基于建模誤差PDF形狀的間歇過程數(shù)據(jù)驅(qū)動(dòng)模型 [J]. 儀器儀表學(xué)報(bào), 2012, (7): 1505-1512.

JIA L, CAO L M, CHIU M S. Modeling error PDF shape based data-driven model for batch processes [J]. Chinese Journal of Scientific Instrument, 2012, (7): 1505-1512.

[11] DING J L, CHAI T Y. Offline modeling for product quality prediction of mineral processing using modeling error PDF shaping and entropy minimization [J]. IEEE Transactions on Neural Networks, 2011, 22 (3): 408-419.

[12] JIA L, CHIU M S. Research on fuzzy neural model with global convergence for batch process [J]. Information and Control, 2009, 38 (6): 683-691.

[13] BOWMAN A W, AZZALINI A. Applied Smoothing Techniques for Data Analysis [M]. New York: Oxford University Press, 1997.

[14] 賈立. 神經(jīng)模糊系統(tǒng)研究及其在建模與控制中的應(yīng)用 [D]. 上海:華東理工大學(xué), 2002: 10-32.

JIA L. Research on neuro-fuzzy system and its application in modeling and control [D]. Shanghai: East China University of Science and Technology, 2002: 10-32.

[15] 賈立, 程大帥, 曹魯明, 等. 基于數(shù)據(jù)的間歇過程時(shí)變神經(jīng)模糊模型研究 [J]. 計(jì)算機(jī)與應(yīng)用化學(xué), 2011, 28 (7): 915-918.

JIA L, CHENG D S, CAO L M, et al. Research on data-based time-varying neuro-fuzzy model for batch processes [J].Computers and Applied Chemistry, 2011, 28 (7): 915-918.

[16] 王建平, 胡益, 侍洪波. 基于高階偏最小二乘的間歇過程建模 [J].化工學(xué)報(bào), 2014, 65 (9): 3527-3534.

WANG J P, HU Y, SHI H B. Modeling of batch process based on higher order partial least squares [J]. CIESC Journal, 2014, 65 (9): 3527-3534.

[17] 史洪巖, 苑明哲, 王天然, 等. 間歇過程動(dòng)態(tài)優(yōu)化方法綜述 [J].信息與控制, 2012, (1): 75-82.

SHI H Y, YUANG M Z, WANG T R, et al. A survey on dynamic optimization methods of batch processes [J]. Information and Control, 2012, (1): 75-82.

[18] 朱朝艷, 王建波, 王學(xué)志, 等. 改進(jìn)遺傳算法的研究現(xiàn)狀分析 [J].吉林水利, 2010, (7): 1-4.

ZHU C Y, WANG J B, WANG X Z, et al. The status quo of improved genetic algorithm [J]. Jilin Water Resources, 2010, (7): 1-4.

[19] 王夢(mèng)寒, 楊海, 李雁召. 前饋神經(jīng)網(wǎng)絡(luò)與遺傳算法相結(jié)合解決曲軸中心縮孔 [J]. 化工學(xué)報(bào), 2013, 64 (10): 3673-3678.

WANG M H, YANG H, LI Y Z. Elimination of voids in crankshaft through a hybrid of back propagation neural network and genetic algorithm [J]. CIESC Journal, 2013, 64 (10): 3673-3678.

[20] 張炤, 張素, 章琛曦, 等. 基于支持向量機(jī)的概率密度估計(jì)方法[J]. 系統(tǒng)仿真學(xué)報(bào). 2005, 10: 2355-2357.

ZHANG Z, ZHANG S, ZHANG C X, et al. Density estimation based on support vector machines [J]. Journal of System Simulation. 2005, 10: 2355-2357.

[21] XIONG Z H, ZHANG J, WANG X, XU Y M. Run-to-run iterative optimization control of batch processes based on recurrent neural network [J]. Advances in Neural Networks, 2004, 3174: 97-103.

研究論文

Received date: 2015-12-17.

Foundation item: supported by the National Natural Science Foundation of China (61374044), the Shanghai Science Technology Commission (12510709400), the Shanghai Municipal Education Commission (14ZZ088) and the Shanghai Talent Development Plan 2013.

Improved PDF technology based NFM for batch process

FU Zhao, JIA Li
(Shanghai Key Laboratory of Power Station Automation Technology, Department of Automation, School of Mechatronic Engineering and Automation, Shanghai University, Shanghai 200072, China)

Abstract:Batch process is an typical nolinear production process and can be simulated by a neuro-fuzzy model (NFM). In the previous research, a new model training method called PDF technology was proposed to successfully conquer the weak generalization ability which caused by the MSE rule based model training. But the density function is hard to estimate and the trained model are not stable when the target PDF can not given. To solve these problems, a new window width estimation method is introduced and also a contraction strategy with a PDF predictor is proposed when the target can not be given. Simulation results demonstrate that the proposed methods can get a more accurate density estimation and a more excellent model prediction ability.

Key words:batch process; neuro-fuzzy model; probability density function; contraction strategy; algorithm; prediction

DOI：10.11949/j.issn.0438-1157.20151922

中圖分類號(hào)：TP 273

文獻(xiàn)標(biāo)志碼：A

文章編號(hào)：0438—1157（2016）03—0998—10

基金項(xiàng)目：國(guó)家自然科學(xué)基金項(xiàng)目（61374044）；上海市科委國(guó)際合作項(xiàng)目（12510709400)；上海市教委創(chuàng)新重點(diǎn)項(xiàng)目（14ZZ088）；2013年度上海市人才發(fā)展基金項(xiàng)目。

Corresponding author:Prof. JIA Li, jiali@staff.shu.edu.cn