倪 鵬, 黃 蔚, 呂 巍, 姚 禹
(1.長春工業(yè)大學 應用技術(shù)學院, 長春 130012; 2.長春工業(yè)大學 軟件職業(yè)技術(shù)學院, 長春130012;3.吉林大學 計算機科學與技術(shù)學院, 長春 130012)
基于Zernike矩特征的FCM-RBF神經(jīng)網(wǎng)絡圖像分類器
倪 鵬1,2, 黃 蔚3, 呂 巍3, 姚 禹1
(1.長春工業(yè)大學 應用技術(shù)學院, 長春 130012; 2.長春工業(yè)大學 軟件職業(yè)技術(shù)學院, 長春130012;
3.吉林大學 計算機科學與技術(shù)學院, 長春 130012)
針對交通監(jiān)控圖像識別精度較差的問題, 設計一種基于徑向基(radial-basis)函數(shù)神經(jīng)網(wǎng)絡的圖像分類器.該分類器利用Zernike矩噪聲敏感度較小、形狀特征穩(wěn)定性好的特點, 構(gòu)建四階矩的特征向量, 用于特征提?。?利用自適應模糊聚類方法, 解決徑向基函數(shù)神經(jīng)網(wǎng)絡隱層節(jié)點數(shù)不確定的問題.仿真分析表明, 該分類器與基于改進的快速模糊C均值聚類算法的Back Propagation網(wǎng)絡分類器和徑向基函數(shù)神經(jīng)網(wǎng)絡分類器相比具有更高的識別率, 與改進的粒子群優(yōu)化模糊C均值聚類算法的徑向基函數(shù)神經(jīng)網(wǎng)絡分類器相比具有相近的識別率, 但其計算復雜度較低.仿真實驗結(jié)果表明, 該方法具有較好的分類能力及較高的計算效率.
Zernike矩; 模糊C均值; 徑向基神經(jīng)網(wǎng)絡; 圖像分類器
隨著交通智能化監(jiān)控和智能化管理水平的日趨提高, 每天都產(chǎn)生大量的監(jiān)控圖像, 通常需要人工對這些數(shù)量龐大的圖像進行分類和篩選, 耗時耗力, 因此如何對這些圖像信息進行有效識別和快速分類已成為亟待解決的問題.典型的圖像識別過程分為圖像處理、特征提取、分類器設計三部分.圖像處理指對設備獲取的圖像進行增強、復原和去噪等處理, 一般還需進行圖像分割, 便于提取有用信息; 特征提取指通過數(shù)學變換將二維圖像矩陣轉(zhuǎn)換成一個多維列向量[1]的過程, 目前用于圖像識別的特征主要有紋理、顏色(灰度)的統(tǒng)計特征、圖像代數(shù)特征、邊緣特征和圖像變換系數(shù)特征[2]; 分類器設計指設計判決函數(shù)模型, 實現(xiàn)圖像分類, 常用的分類器設計方法有模板匹配法、判別函數(shù)分類法、基于規(guī)則推理法和神經(jīng)網(wǎng)絡分類法等.
本文針對交通監(jiān)控圖像的識別問題, 應用Zernike矩[3]噪聲敏感度較小和形狀特征穩(wěn)定性好的特點, 構(gòu)建四階矩的特征向量, 用于特征提??; 利用徑向基函數(shù)(radial-basis function, RBF)[4]神經(jīng)網(wǎng)絡學習速度快、并能有效避免局部極小值的特點, 設計一種基于RBF神經(jīng)網(wǎng)絡的圖像分類器, 并針對其隱層節(jié)點數(shù)的不確定問題, 給出一種自適應模糊聚類方法, 從而實現(xiàn)RBF神經(jīng)網(wǎng)絡隱節(jié)點參數(shù)的自適應確定.仿真實驗驗證了該分類器具有較高的泛化性能.
Zernike矩是一組正交矩[5], 與Hu矩相比, 盡管計算復雜, 但能構(gòu)造任意的高階矩, 具有較好的特征表達能力, 且噪聲敏感度較小.
對于圖像f(x,y),n階Zernike矩定義為
對于實二維圖像, 其Zernike矩Anm為復數(shù); 對數(shù)字圖像, 積分用求和代替:
其中x2+y2≤1.極坐標下Zernike矩的定義為
Zernike矩是基于圖像區(qū)域的形狀描述子, 且其基是正交徑向多項式, 因此具有旋轉(zhuǎn)不變性, 且易于構(gòu)造高階矩.本文以圖像一至四階Zernike矩的模組成特征向量, 進行特征提取.如圖1所示, 對越野車原始圖像、小角度旋轉(zhuǎn)圖像、運動模糊圖像和加噪干擾圖像共4幅圖像, 分別提取各自Zernike矩的模(|A1|-|A4|), 實驗結(jié)果列于表1. 由表1可見, 四階Zernike矩特征[6]提取方法, 在圖像旋轉(zhuǎn)、運動模糊及噪聲干擾情況下, 均表現(xiàn)出較好的穩(wěn)定性, 適用于交通監(jiān)控圖像的特征提取.
圖1 實驗圖像Fig.1 Experimental images
表1 4類圖像實驗結(jié)果Table 1 Four kinds of experimental results
2.1RBF神經(jīng)網(wǎng)絡
圖2 RBF神經(jīng)網(wǎng)絡結(jié)構(gòu)Fig.2 RBF neural network structure
RBF神經(jīng)網(wǎng)絡[7-8]的結(jié)構(gòu)如圖2所示.RBF網(wǎng)絡通常為三層的前饋網(wǎng)絡: 第一層是輸入層, 輸入特征空間模式的特征值, 輸入節(jié)點直接與第二層的各神經(jīng)元相連; 第二層是RBF網(wǎng)絡的隱神經(jīng)元層, 其隱神經(jīng)元數(shù)量可隨問題的復雜程度變化, 給出了RBF網(wǎng)絡中對輸入矢量所做的非線性變換; 第三層是線性神經(jīng)元層, RBF神經(jīng)元的輸出和第三層的線性神經(jīng)元以一定權(quán)值相連, 分類器的輸出只是這些激活函數(shù)的加權(quán)線性和.輸出層提供了從隱單元空間到輸出空間的一種線性變換.圖2中:x={x1,x2,…,xn}T∈n為輸入矢量;w={w1,w2,…,wn}∈m為輸出層權(quán)矢量;wo為輸出單元偏移量;f(x)為網(wǎng)絡輸出.
假設網(wǎng)絡輸入層、隱含層和輸出層的神經(jīng)元個數(shù)分別為ni,nh和no, 則網(wǎng)絡可實現(xiàn)輸入輸出之間的如下映射關系:
其中:x={x1,x2,…,xn}T∈n為輸入向量;yi為第i個神經(jīng)元的輸出值;wij為第j個隱單元到第i個輸出單元的權(quán)重; ‖·‖為歐氏范數(shù);cj為第j個隱單元的中心;Φ(·)為徑向基函數(shù).本文選取Gauss核函數(shù)形式:
其中σ決定了該基函數(shù)繞中心的寬度.
2.2自適應模糊C均值聚類算法
RBF神經(jīng)網(wǎng)絡[9]具有拓撲結(jié)構(gòu)簡單和學習過程透明等優(yōu)點, 但無法確定合適的隱層單元個數(shù), 過于龐大的隱層單元會降低學習效率和映射性能[10].在一般訓練方法中, 隱節(jié)點數(shù)是定值, 與核函數(shù)的初始中心一起憑經(jīng)驗給出, 如果對不同類別的特征掌握較少, 則經(jīng)驗數(shù)據(jù)會出現(xiàn)較大的偏差, 影響網(wǎng)絡的分類性能.針對此問題, 本文引入FCM(fuzzyC-means)聚類[11]思想, 針對FCM必須預先確定聚類個數(shù), 具有較大的主觀性和依賴性問題, 給出一種能自動確定聚類個數(shù)的自適應FCM聚類算法, 以聚類個數(shù)確定網(wǎng)絡節(jié)點個數(shù), 將聚類中心和聚類半徑分別作為RBF節(jié)點基函數(shù)的中心和寬度, 從而實現(xiàn)了RBF網(wǎng)絡的自適應確定.
模糊C均值算法目標函數(shù)的一般形式為
該算法的目的是將該目標函數(shù)最小化, 其約束條件為
其中:n表示樣本總數(shù);c表示聚類中心數(shù);U=(uik)n×c為隸屬度矩陣;uik是矩陣U的第i行第k列元素, 表示第k個數(shù)據(jù)樣本對第i個聚類中心的隸屬度;m∈[1,+∞)是一個加權(quán)指數(shù);V={v1,v2,…,vc}為聚類中心矩陣;Jm是類內(nèi)誤差的加權(quán)平方和目標函數(shù).
隸屬度矩陣U為
模糊聚類中心vi為
通常采用交替優(yōu)化分配矩陣U和聚類中心矩陣V的迭代算法得到一個局部極小解.FCM算法通過迭代式(8),(9)達到目標函數(shù), 實現(xiàn)數(shù)據(jù)集的模糊聚類.雖然FCM算法是一種無監(jiān)督的分類算法, 但加權(quán)指數(shù)m和聚類類別數(shù)c必須在聚類分析前給出, 最初的方法通常是經(jīng)驗性的, 目前的研究多集中在聚類有效性判別函數(shù)上, 如基于可能性分布的判別函數(shù)、基于模糊相關度的判別函數(shù)[11]及基于子集測度的判別函數(shù)等.本文給出一種自適應聚類算法, 在加權(quán)指數(shù)選擇上, 令m=2.算法如下:
1) 選定聚類有效性函數(shù), 初始化聚類個數(shù)c=2, 最優(yōu)聚類個數(shù)c*=2, 設置迭代截止誤差ε(ε>0)、算法最大迭代次數(shù)Tmax、算法最大聚類個數(shù)cmax和隨機初始化類中心矩陣V= {v1,v2,…,vc}, 令t=0;
2) 應用式(8)產(chǎn)生初始隸屬度矩陣U(t=0);
3) 對t=1,2,…,Tmax, 用式(9)計算聚類中心矩陣V, 用式(8)計算隸屬度矩陣U(p);
4) 若‖V(t)-V(t-1)‖<ε, 則停止迭代, 收斂后得到一組權(quán)值矢量Vi(i=2,3,…,cmax); 否則, 轉(zhuǎn)3);
5) 計算對應于當前神經(jīng)網(wǎng)絡的聚類有效性函數(shù)值Value(c,X,V),V={v2,v3,…,vcmax}; 若Value>Value*(或Value 6) 增加一個聚類, 令c=c+1, 若c 該算法的最終結(jié)果Value*即為最大(或最小)的聚類有效性函數(shù)值, 對應的c*為最優(yōu)的聚類數(shù)目, 相應聚類結(jié)果即為最優(yōu)的聚類結(jié)果, 本文采用式(6)作為聚類有效性函數(shù). 實驗選用某段交通監(jiān)控視頻中提取的車輛圖像, 包括小型車(轎車)、中型車(越野車、商用三廂車)和大型車(公交車、卡車)共3類.每類選取1 000張圖像, 建立共3 000張圖像的訓練樣本集, 使用四階Zernike矩特征提取方法提取圖像特征向量, 通過自適應FCM算法確定RBF網(wǎng)絡節(jié)點及參數(shù), 用反傳算法完成隱層和輸出層之間連接權(quán)值的訓練; 另取每類500個樣本, 組成共1 500張圖像的測試樣本集, 用于測試網(wǎng)絡泛化性能.為便于比較, 建立隱層為Sigmod函數(shù)的4-7-3前饋網(wǎng)絡, 使用學習率0.3、動量因子0.35的反向傳播算法完成網(wǎng)絡訓練.實驗結(jié)果列于表2.由表2可見, 基于Zernike矩特征的FCM-RBF網(wǎng)絡, 在相同計算條件下, 與其他3種分類器相比可節(jié)省5~6 s的計算時間, 具有較好的圖像分類能力及較高的計算效率, 可用于交通監(jiān)控圖像識別工作. 表2 網(wǎng)絡泛化性能實驗結(jié)果Table 2 Experimental results of network generalization performance 綜上所述, 本文針對交通監(jiān)控圖像的識別問題, 構(gòu)建了四階Zernike矩特征向量, 提出了一種基于RBF神經(jīng)網(wǎng)絡的圖像分類器, 并針對其隱層節(jié)點數(shù)不確定問題, 給出了一種自適應模糊聚類方法, 實現(xiàn)了RBF神經(jīng)網(wǎng)絡隱節(jié)點參數(shù)的自適應確定.實驗結(jié)果表明, 該方法具有較好的分類能力及較高的計算效率, 在交通監(jiān)控圖像識別領域有較高的應用價值. [1]李青松, 覃錫忠, 賈振紅, 等.基于NSCT和FCM聚類的SAR圖像無監(jiān)督變化檢測 [J].激光雜志, 2013, 34(4): 20-22.(LI Qingsong, QIN Xizhong, JIA Zhenhong, et al.An Unsupervised Change Detection of SAR Images Based on NSCT and FCM Clustering [J].Laser Journal, 2013, 34(4): 20-22.) [2]Rovithakis G A.Robust Neural Adaptive Stabilization of Unknown Systems with Measurement Noise [J].Systerms, Man, and Cybernetics, Part B: Cybernetics, 2002, 29(3): 453-459. [3]姜邁, 梁煒, 張曉鈴, 等.Zernike亞像素圖像矩邊緣檢測算子方向角模型研究 [J].傳感器與微系統(tǒng), 2013, 32(2): 16-19.(JIANG Mai, LIANG Wei, ZHANG Xiaoling, et al.Research on Sub-pixei Zernike Moments Edge Detecting Operator Based on Direction Angle Model [J].Transducer and Microsystem Technologies, 2013, 32(2): 16-19.) [4]張黎明, 蔡琦, 宋梅村.基于RBF神經(jīng)網(wǎng)絡的NPP運行狀態(tài)趨勢預測 [J].原子能科學技術(shù), 2013, 47(11): 2104-2107.(ZHANG Liming, CAI Qi, SONG Meicun.Trend Prediction of NPP Operating Conditions Based on RBF Neural Network [J].Atomic Energy Science and Technology, 2013, 47(11): 2104-2107.) [5]戴修斌, 張輝, 舒華忠, 等.基于正交矩模糊和仿射混合不變量的圖像識別算法 [J].東南大學學報: 自然科學版, 2011, 41(1): 52-57.(DAI Xiubin, ZHANG Hui, SHU Huazhong, et al.Image Recognition Algorithm Based on Combined Blur and Affine Invariants of Legendre Moment [J].Journal of Southeast University: Natural Science Edition, 2011, 41(1): 52-57.) [6]李了了.基于Zernike矩的字符特征選擇 [J].內(nèi)江師范學院學報, 2008, 23(6): 49-51.(LI Liaoliao.Choose of Character Feature Based on Zernike Moment [J].Journal of Neijiang Normal University, 2008, 23(6): 49-51.) [7]黎俊鋒, 朱鋒峰.基于樣本密度的FCM改進算法 [J].科學技術(shù)與工程, 2007, 7(4): 636-638.(LI Junfeng, ZHU Fengfeng.Improved FCM Algorithm Based on the Density of Samples [J].Science Technology and Engineering, 2007, 7(4): 636-638.) [8]於世為, 諸克軍, 郭海湘.基于MPSO-BP的RBF網(wǎng)絡自構(gòu)建學習算法 [J].系統(tǒng)工程與電子技術(shù), 2010, 32(3): 624-629.(YU Shiwei, ZHU Kejun, GUO Haixiang.Self-generated Training Algorithm of RBF Neural Networks Based on MPSO-BP [J].Systems Engineering and Electronics, 2010, 32(3): 624-629.) [9]葉健, 葛臨東, 吳月嫻.一種優(yōu)化的RBF神經(jīng)網(wǎng)絡在調(diào)制識別中的應用 [J].自動化學報, 2007, 33(6): 652-654.(YE Jian, GE Lindong, WU Yuexian.An Application of Improved RBF Neural Network in Modulation Recognition [J].Acta Automatica Sinica, 2007, 33(6): 652-654.) [10]王士龍, 徐玉如, 萬磊, 等.基于邊界矩和改進FCM聚類的水下目標識別 [J].系統(tǒng)工程理論與實踐, 2012, 32(12): 2809-2815.(WANG Shilong, XU Yuru, WAN Lei, et al.Underwater Targets Recognition Based on Contour Moment and Modified FCM Algorithm [J].Systems Engineering: Theory & Practice, 2012, 32(12): 2809-2815.) [11]蒲蓬勃, 王鴿, 劉太安.基于粒子群優(yōu)化的模糊C-均值聚類改進算法 [J].計算機工程與設計, 2008, 29(16): 4277-4279.(PU Pengbo, WANG Ge, LIU Tai’an.Research of Improved FuzzyC-Means Algorithm Based on Particle Swarm Optimization [J].Computer Engineering and Design, 2008, 29(16): 4277-4279.) ImageFCM-RBFNeuralNetworkClassifierBasedonZernikeMomentFeatures NI Peng1,2, HUANG Wei3, Lü Wei3, YAO Yu1 In order to solve the problem of nonhigh image recognition accuracy for traffic monitoring, an image classification was proposed based on radial basis function (RBF) neural network.Zernike array less noise sensitivity, shape features and good stability were considered to build a fourth-order array feature vector for feature extraction; and an adaptive fuzzy clustering method fuzzyC-means was used to solve hidden neurons uncertain of RBF neural network.The simulation analysis shows that the classifier has a higher recognition rate than the classifier based on fuzzyC-means clustering algorithm of BP and RBF neural network, a lower computational complexity than RBF neural network classifier with particle swarm of fuzzyC-means clustering algorithm, though they have similar recognition rate.Simulation and experiments show that this method has better classification capabilities and higher computational efficiency. Zernike moment; fuzzyC-means; radial basis function neural network; image classifier 2014-04-30. 倪 鵬(1980—), 男, 漢族, 碩士, 講師, 從事嵌入式系統(tǒng)開發(fā)與物聯(lián)網(wǎng)的研究, E-mail: nipeng@mail.ccut.edu.cn.通信作者: 黃 蔚(1977—), 男, 漢族, 碩士, 工程師, 從事嵌入式系統(tǒng)與單片機系統(tǒng)的研究, E-mail: hwei@jlu.edu.cn. 吉林省教育廳“十二五”科學技術(shù)研究項目(批準號: 2014146)和吉林省科技發(fā)展計劃重點科技攻關項目(批準號: 20140204033GX). TP335 A 1671-5489(2014)06-1284-05 10.13413/j.cnki.jdxblxb.2014.06.33 韓 嘯)3 實驗結(jié)果與分析
(1.CollegeofAppliedTechnology,ChangchunUniversityofTechnology,Changchun130012,China;
2.SchoolofSoftTechnology,ChangchunUniversityofTechnology,Changchun130012,China;
3.CollegeofComputerScienceandTechnology,JilinUniversity,Changchun130012,China)