基于ICA降維的車牌漢字識別研究

沈 洋，詹永照，單士娟

（1.江蘇大學(xué) 計(jì)算機(jī)科學(xué)與通信工程學(xué)院，江蘇 鎮(zhèn)江212013；2.宿遷學(xué)院 計(jì)算機(jī)科學(xué)系，江蘇 宿遷223800）

0 引 言

智能交通系統(tǒng)是衡量一個國家現(xiàn)代化程度的重要指標(biāo)，而車牌的自動識別是智能交通系統(tǒng)的關(guān)鍵技術(shù)之一［1］，在車牌識別中最難的就是漢字的識別，一方面漢字的筆畫繁多，提取特征比較困難，另一方面有些漢字因?yàn)樘鞖夂吐窙r等原因，污染的比較嚴(yán)重，所以車牌漢字識別一直都是車牌識別系統(tǒng)的核心技術(shù)。

當(dāng)前對于車牌漢字識別，應(yīng)用比較廣泛的主要有以下兩種方法［2］：第一種是根據(jù)漢字的筆畫結(jié)構(gòu)特征進(jìn)行識別［3－5］，理論上可以識別結(jié)構(gòu)復(fù)雜的漢字，但是對于惡劣環(huán)境下的漢字識別率太低。第二種是依據(jù)漢字圖像的統(tǒng)計(jì)特征進(jìn)行識別，常見的是利用一些不變矩函數(shù)提取漢字的特征，從而進(jìn)行分類。這種方法對于漢字圖像的平移，旋轉(zhuǎn)具有不變性，對圖像的局部變化也不敏感，所以具有較強(qiáng)的抗干擾性，例如：高全華等［6］提出了一種基于偽Zernike矩的漢字識別方法，該方法將偽Zernike矩作為待識別車牌漢字的特征向量，輸入概率神經(jīng)網(wǎng)絡(luò)中進(jìn)行漢字識別，取得了較好的識別效果。然而還存在以下幾個問題：①偽Zernike矩作為圖像的特征向量時，需要使用比較高的維數(shù)才能較好表達(dá)圖像，而高維特征向量不僅會增大后續(xù)操作的計(jì)算量，還可能存在冗余信息，在識別時不利于精確度的提高。②概率神經(jīng)網(wǎng)絡(luò)的模式層節(jié)點(diǎn)的個數(shù)等于訓(xùn)練樣本的個數(shù)，當(dāng)使用大樣本的數(shù)據(jù)進(jìn)行訓(xùn)練時，會嚴(yán)重影響識別的時間和對內(nèi)存的需求。

針對以上這些缺點(diǎn)，本文提出了一種利用偽Zernike矩和獨(dú)立主成分分析相結(jié)合的車牌漢字特征提取方法，并對概率神經(jīng)網(wǎng)絡(luò)進(jìn)行了改進(jìn)，用于車牌漢字識別，以期降低漢字識別時間，減少所占用的內(nèi)存容量，提高漢字的識別率。

1 偽Zernike矩

（1）Zernike矩：Zernike矩［7］是一種正交復(fù)數(shù)矩，它對圖像的細(xì)微變化和噪聲信號具有魯棒性，有著很好的圖像表示能力。它使用了一組在單位圓x2＋y2＝1上定義的完備的復(fù)數(shù)正交函數(shù)集 ｛Vmn（x，y）｝

其中，整數(shù)m≥0為Zernike矩的階數(shù)，整數(shù)n稱為矩的重復(fù)度，滿足大于等于零且是偶數(shù)。r＝，θ＝tan－1（y/x）；。

通過此正交函數(shù)集，二維車牌漢字圖像f（x，y）的m階重復(fù)度為n的Zernike矩可表示為［8］

其中x2＋y2≤1，（x，y）為Vmn（x，y）的共軛函數(shù)。

（2）偽Zernike矩：Bhatia和Wolf等人在Zernike矩的基礎(chǔ)上提出了偽Zernike矩，同Zernike矩相比，偽Zernike矩不僅對干擾信號更不敏感而且還具有表達(dá)精確，計(jì)算速度快等特點(diǎn)［9］。

在計(jì)算上，偽Zernike矩和Zernike矩類似，只是正交函數(shù)集（x，y）｝不同，偽Zernike矩的正交函數(shù)

其中整數(shù)m≥0為階數(shù)，整數(shù)n為重復(fù)度，且。

2 偽Zernike矩特征的獨(dú)立主成分分析降維

獨(dú)立主成分分析 （ICA）［10］是近年來廣泛應(yīng)用的一種有效多維信號處理技術(shù)，其目的是從已知的混合信號中提取出未知的獨(dú)立信號，經(jīng)ICA處理得到的各信號之間不僅去除了相關(guān)性，而且還是相互獨(dú)立的。

2.1 獨(dú)立主成分分析 （ICA）的定義

假設(shè)一組觀測信號X＝ ［X1，X2…..Xn］是由一組獨(dú)立信號S＝ ［S1，S2…..Sn］通過未知的混合矩陣A線性組合生成的，即X＝A＊S，獨(dú)立主成分分析的目的就是找到分離矩陣B，使得輸出信號Y＝B＊X，其中Y＝［Y1，Y2….Yn］是原始獨(dú)立信號S的一個最佳逼近，ICA的模型如圖1所示。

圖1 ICA的模型

2.2 快速定點(diǎn)ICA （FastICA）算法

FastICA算法［11－12］是以負(fù)熵作為判斷依據(jù)的一種獨(dú)立主成分分析方法。熵是指信號中所含的信息量，因?yàn)榕袛噍敵龅男盘柺欠癃?dú)立，可以轉(zhuǎn)換為判斷這些信號的非高斯性是否最大，而在所有的等方差隨機(jī)變量中，高斯變量的熵是最大的，故可采用負(fù)熵作為衡量信號非高斯性大小的依據(jù)，又因?yàn)樨?fù)熵很難計(jì)算，所以一般情況下輸出的信號Y的負(fù)熵J（Y）可用下面的近似公式來代替［10］：J（Y）≈｛E ［G （Y）］－E ［G （Yg）］｝2，其中Yg是與輸出的隨機(jī)信號Y具有相同方差的一個的高斯隨機(jī)信號，E（＊）為均值運(yùn)算，G（＊）一般取 G （Y）＝logcosh （Y）或 G（Y）＝－exp （－Y2/2）。

2.3 車牌偽Zernike矩特征的ICA降維算法

本文提出的算法是利用了FastICA將車牌漢字圖像的前20階偽Zernike矩作為特征進(jìn)行獨(dú)立主成分分析，提取出特征的獨(dú)立主成分分量，從而得到新的降了維的特征矩陣，具體步驟如下：

步驟1 對訓(xùn)練樣本中漢字圖像的前20階偽Zernike矩組成的特征矩陣Z進(jìn)行均值化處理，使其均值為零。

步驟2 對處理后的Z進(jìn)行白化處理，即尋找白化矩陣V＝D－1/2＊UT，其中的D＝diag（d1，d2…dn），di是Z的協(xié)方差矩陣E｛Z＊ZT｝的特征值，U是由這些特征值對應(yīng)的特征向量所構(gòu)成的矩陣 （本算法在計(jì)算矩陣D、U時，保留了占所有特征值總和85%的前n個最大的特征值和相應(yīng)的特征向量，而將其它的特征值和特征向量去除，從而實(shí)現(xiàn)了對特征的降維），求出白化矩陣V后，將V＊Z作為ICA模型中的觀測信號X，即X＝V＊Z。

步驟3 開始逐行尋找ICA模型中的分離矩陣B＝［B1，B2…Bn］T，首先初始化B中的第一個向量B1。

步驟4 利用以下的近似公式迭代出新的向量：，其中E（＊）為均值運(yùn)算，g（＊）為G（＊）＝logcosh（＊）的導(dǎo)數(shù)，g′（＊）為g（＊）的導(dǎo)數(shù)。

步驟6 若迭代后的向量B1與本次迭代之前的B1指向的方向相同或相反，則迭代結(jié)束，并得到第一個獨(dú)立分量Y1＝B1＊X，否則返回步驟4繼續(xù)迭代。

步驟7 若已求出分離矩陣B的前p－1行向量B1，B2…BP－1，現(xiàn)在要求Bp，首先初始化Bp。

步驟8 利用以下的近似公式迭代出新的向量：，其中為均值運(yùn)算，的導(dǎo)數(shù)，的導(dǎo)數(shù)。

步驟11 若新求出的向量Bp與本次迭代之前的向量Bp指向的方向相同或相反，則迭代結(jié)束，并得到第p個獨(dú)立分量YP＝Bp＊X，否則返回步驟8繼續(xù)迭代。

最終可求出分離矩陣B中的所有行向量B1，B2…Bn，以及所有的獨(dú)立主成分分量Y1，Y2…Yn.構(gòu)成的新的特征矩陣Y。

3 基于代表點(diǎn)的改進(jìn)概率神經(jīng)網(wǎng)絡(luò)車牌漢字識別

概率神經(jīng)網(wǎng)絡(luò) （PNN）是1990年由Specht提出的一種模式分類方法［13］，其主要思想是利用貝葉斯決策規(guī)則在多維的輸入空間內(nèi)進(jìn)行分類。

3.1 概率神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)

概率神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)可以分為以下4層：輸入層，模式層，累加層和輸出層。如圖2所示。

待分類的一個樣本特征向量Yi作為輸入層的節(jié)點(diǎn)，所有的訓(xùn)練樣本特征向量作為模式層的節(jié)點(diǎn)，模式層的功能是將待分類的樣本向量與所有的訓(xùn)練樣本向量 （即模式層的節(jié)點(diǎn)）相乘，并通過激活函數(shù) （本文采用g（Yi）＝exp，σ為平滑參數(shù)）運(yùn)算后傳送給累加層，累加層中節(jié)點(diǎn)個數(shù)等于訓(xùn)練樣本的類別總數(shù)，其功能是將模式層中屬于同一類別的節(jié)點(diǎn)傳來的輸入進(jìn)行累加求和，其中求和值最大的類別號就傳給輸出層的節(jié)點(diǎn)。

概率神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn)是：網(wǎng)絡(luò)的訓(xùn)練簡單［14］以及網(wǎng)絡(luò)的模式分類性強(qiáng) （只要提供足夠多的訓(xùn)練樣本，不管樣本之間有多復(fù)雜的關(guān)系，都可以達(dá)到很好的分類效果［15］），缺點(diǎn)是模式層的節(jié)點(diǎn)個數(shù)等于訓(xùn)練樣本的個數(shù)，當(dāng)使用大量的訓(xùn)練樣本時，會占用很多的內(nèi)存空間，識別時的時間也比較長。

圖2 概率神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)

3.2 基于代表點(diǎn)的改進(jìn)概率神經(jīng)網(wǎng)絡(luò)訓(xùn)練算法

針對概率神經(jīng)網(wǎng)絡(luò)的這個缺點(diǎn)，本文提出了一種基于代表點(diǎn)的改進(jìn)概率神經(jīng)網(wǎng)絡(luò)方法，使得可以用訓(xùn)練樣本中的若干代表點(diǎn)作為網(wǎng)絡(luò)模式層的節(jié)點(diǎn)，以期加快識別速度同時達(dá)到與改進(jìn)前相似的識別效果，具體提取代表點(diǎn)的算法如下：

步驟1 取出訓(xùn)練樣本中每一類漢字的所有樣本特征向量Yi。

步驟2 求出這些樣本向量之間的歐氏距離，形成距離矩陣D，并得到樣本向量之間的最大距離max。

步驟3 由距離矩陣D得到一維密度矩陣V，V中每個元素V （i）表示第i個樣本向量的密度，即與其距離小于0.5＊max的向量的個數(shù)。

步驟4 求出V的平均值，將密度大于V平均值的所有樣本向量，放入一個新的集合C。

步驟5 在C中以密度最大的那個樣本向量作為第一個代表點(diǎn)r（1），將與其之間距離超出0.1＊max，且密度最大的那個樣本向量作為第二個代表點(diǎn)r（2）。

步驟6 將集合C中與前一次求出的代表點(diǎn)之間距離大于0.1＊max，且密度最大的那個樣本向量作為下一個代表點(diǎn)。

步驟7 重復(fù)步驟6，直到?jīng)]有新的代表點(diǎn)求出為止。

4 實(shí)驗(yàn)結(jié)果與分析

實(shí)驗(yàn)采用的是復(fù)雜環(huán)境下的車牌漢字圖像作為車牌漢字庫，該漢字庫由31種漢字組成，每一種漢字包含30幅不同的污損、變形圖像。從該漢字庫中抽取訓(xùn)練樣本集和識別樣本集。其中訓(xùn)練樣本集包含了每種漢字的20幅不同污染變形圖像，31種漢字總共有620個訓(xùn)練樣本，部分訓(xùn)練樣本圖像如圖3所示，識別樣本集是由不包含在訓(xùn)練樣本集中的隨機(jī)抽取的200幅漢字圖像組成。

本文主要針對文獻(xiàn) ［6］所提出的基于偽Zernike矩的PNN車牌漢字識別方法、對偽Zernike矩進(jìn)行獨(dú)立主成分分析降維再送入概率神經(jīng)網(wǎng)絡(luò)中進(jìn)行訓(xùn)練和識別的方法以及本文所采用的對偽Zernike矩進(jìn)行獨(dú)立主成分分析降維再送入基于代表點(diǎn)的改進(jìn)概率神經(jīng)網(wǎng)絡(luò)中進(jìn)行訓(xùn)練和識別的方法這3種方法，分別進(jìn)行了實(shí)驗(yàn)，這3個實(shí)驗(yàn)都是在Windows XP環(huán)境下的Matlab R2007平臺上實(shí)現(xiàn)完成的，實(shí)驗(yàn)中的測試時間指的是對1幅識別樣本的識別時間 （不包括提取該樣本偽Zernike矩的時間）。

圖3 部分車牌漢字訓(xùn)練樣本圖像

在第一個實(shí)驗(yàn)中，采用文獻(xiàn) ［6］所提出的只使用訓(xùn)練樣本中每個漢字的4種污染變形圖像對概率神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，用訓(xùn)練后的網(wǎng)絡(luò)對識別樣本集進(jìn)行識別發(fā)現(xiàn)識別率極低，只有十幾幅漢字圖像能夠正確識別，很顯然文獻(xiàn)［6］的方法不適合在復(fù)雜環(huán)境中應(yīng)用。隨后我們擴(kuò)展訓(xùn)練樣本，使用訓(xùn)練樣本集中所有的620個訓(xùn)練樣本圖像對網(wǎng)絡(luò)重新訓(xùn)練，訓(xùn)練后的網(wǎng)絡(luò)模式層節(jié)點(diǎn)數(shù)為620個，對識別樣本集測試，有20幅漢字圖像不能正確識別，如圖4所示，識別率為90%，測試時間為0.001253s

第二個實(shí)驗(yàn)，將所有訓(xùn)練樣本提取偽Zernike矩得到210＊620的特征矩陣，首先經(jīng)過2.3節(jié)提出的ICA降維算法降維，得到54＊620的新特征矩陣Y，以及54＊210的分離矩陣B，再將Y送入概率神經(jīng)網(wǎng)絡(luò)中進(jìn)行訓(xùn)練，訓(xùn)練后得到的模式層節(jié)點(diǎn)數(shù)為620個，對識別樣本集測試后，有8幅不能正確識別，如圖5所示，識別率為96%，測試時間為0.000845s。

在第三個實(shí)驗(yàn)中，將訓(xùn)練樣本集提取偽Zernike矩和獨(dú)立主成分分析降維后得到的54＊620的新特征矩陣Y選取出每一類漢字圖像樣本的代表點(diǎn)，得到的每一類的代表點(diǎn)數(shù)如表1所示，其中第一類的樣本代表點(diǎn)選取的結(jié)果如圖6所示，最后以這些代表點(diǎn)作為模式層節(jié)點(diǎn) （共計(jì)432個）訓(xùn)練概率神經(jīng)網(wǎng)絡(luò)，對識別樣本集測試后，有11幅不能正確識別，如圖7所示，識別率為94.5%，測試時間為0.000771s

表1 31種漢字中每一類提取的代表點(diǎn)數(shù)

比較這3種方法的實(shí)驗(yàn)結(jié)果發(fā)現(xiàn)，本文所采用的方法相對于文獻(xiàn) ［6］的方法不僅降低了運(yùn)行時對內(nèi)存的需求（模式層節(jié)點(diǎn)數(shù)由620個降為432個），減少了運(yùn)行時間（由0.001253s降為0.000771s），還顯著的提高了車牌漢字的識別率 （識別率由90%提高到94.5%），其原因是本文算法所提取的圖像特征之間是相互獨(dú)立的，去除了冗余信息，所以對樣本的分類效果更好。

我們有理由相信，隨著訓(xùn)練樣本的增大，本文提出的方法相對于文獻(xiàn) ［6］的方法在性能上會有更大的提升。

5 結(jié)束語

本文分析了傳統(tǒng)車牌漢字識別方法的優(yōu)缺點(diǎn)，提出了一種基于偽Zernike矩和獨(dú)立主成分分析的改進(jìn)概率神經(jīng)網(wǎng)絡(luò)車牌漢字識別方法，通過與文獻(xiàn) ［6］所提的方法進(jìn)行實(shí)驗(yàn)比較，發(fā)現(xiàn)本文的方法在對內(nèi)存的需求，識別的時間和識別率3個方面相對于文獻(xiàn) ［6］都有較大的提高。

由于在概率神經(jīng)網(wǎng)絡(luò)中，每個模式層節(jié)點(diǎn)的激活函數(shù)，都選取了相同的平滑參數(shù)σ，這也在一定程度上限制了分類的效果，我們下一步的工作將著重研究能否讓模式層節(jié)點(diǎn)采用自適應(yīng)的平滑參數(shù)σ，以期能進(jìn)一步提高識別率。

［1］WANG Xiaoxue，SU Xingli.Application of digital image processing in license plate recognition ［J］.Process Automation Instrumentation，2010，31 （7）：22－28 （in Chinese）.［王曉雪，蘇杏麗.數(shù)字圖像處理在車牌識別中的應(yīng)用 ［J］.自動化儀表，2010，31 （7）：22－28.］

［2］ZHAO Zhihong，YANG Shaopu，MA Zengqiang.License plate character recognition based on convolutional neural network LeNet－5 ［J］.Journal of System Simulation，2010，22（3）：638－641 （in Chinese）.［趙志宏，楊紹普，馬增強(qiáng).基于卷積神經(jīng)網(wǎng)絡(luò)LeNet－5的車牌字符識別研究 ［J］.系統(tǒng)仿真學(xué)報，2010，22 （3）：638－641.］

［3］HU Jinrong，ZHOU Jiliu，WANG Ling，et al.High－performance license plate recognition method based on shape feature of character ［J］.Application Research of Computers，2010，27 （6）：2398－2400 （in Chinese）. ［胡金蓉，周激流，王玲，等.一種新的基于字符形狀特征的高效車牌識別算法 ［J］.計(jì)算機(jī)應(yīng)用研究，2010，27 （6）：2398－2400.］

［4］WANG Jianxia，ZHOU Wanzhen.A license plate characters recognition method based on improved template matching ［J］.Journal of Hebei University of Science and Technology，2010，31 （3）：236－239 （in Chinese）. ［王建霞，周萬珍.一種改進(jìn)模板匹配的車牌字符識別方法 ［J］.河北科技大學(xué)學(xué)報，2010，31 （3）：236－239.］

［5］LI Xingyang， WANG Wenqing.Research of license plate character recognition algorithm based on template matching［J］.Journal of Shanxi Normal University （Natural Science E－dition），2008，36 （S1）：176－178 （in Chinese）.［李興陽，王文青.基于模板匹配的車牌字符識別算法研究 ［J］.陜西師范大學(xué)學(xué)報 （自然科學(xué)版），2008，36 （S1）：176－178.］

［6］GAO Quanhua，WANG Jinguo，SUN Fengli.PNN recognition of license plate Chinese characters based on Pseudo－Zernike invariant moments ［J］.Computer Engineering，2009，35（4）：196－198 （in Chinese）.［高全華，王晉國，孫鋒利.基于Pseudo－Zernike不變矩的PNN車牌漢字識別 ［J］.計(jì)算機(jī)工程，2009，35 （4）：196－198.］

［7］LIU Maofu，HU Hujun.Evolutionary computation base optimization of image Zernike moments shape feature vector［J］.Wuhan U－niversity Journal of Natural Sciences，2008，13 （2）：153－158.

［8］CHEN Ping，LI Lei，REN Yuemei.Trademark image retrieval using region pseudo－Zernike moments ［J］.Computer Simulation，2010，27 （8）：270－273 （in Chinese）. ［陳平，李壘，任越美.基于區(qū)域偽Zernike矩的商標(biāo)圖像檢索 ［J］.計(jì)算機(jī)仿真，2010，27 （8）：270－273.］

［9］YANG Di，SUN Jinguang，HE Wei，et al.Face feature extraction based on normalization of pseudo－Zernike moment ［J］.Computer Engineering and Application，2010，46 （35）：163－165（in Chinese）.［楊迪，孫勁光，何巍，等.基于偽Zernike矩歸一化的人臉特征提取方法 ［J］.計(jì)算機(jī)工程與應(yīng)用，2010，46 （35）：163－165.］

［10］Aapo Hyvarinen，Juha Karhunen，Erkki Oja.Independent component analysis［M］.Beijing：Publishing House of Electronics Industry，2007：274－284 （in Chinese）. ［Aapo Hyvarinen，Juha Karhunen，Erkki Oja.獨(dú)立成分分析 ［M］.北京：電子工業(yè)出版社，2007：274－284.］

［11］Aapo Hyvarinen，Erkki Oja.A fast fixed－point algorithm for Indepent component analysis ［J］. Neural Computation，1997，9 （7）：1483－1492.

［12］FANG Limin，LIN Min.Detection of the main quality indicators in red wine with infrared spectroscopy based on FastICA and neural network ［J］.Spectroscopy and Spectral Analysis，2009，29 （8）：2083－2086 （in Chinese）. ［方利民，林敏.基于FastICA和神經(jīng)網(wǎng)絡(luò)的紅酒主要品質(zhì)參數(shù)紅外檢測 ［J］.光譜學(xué)與光譜分析，2009，29 （8）：2083－2086.］

［13］LI Qunhui，ZHANG Hang.A modified PNN－based method for traffic signs classification ［J］.Systems Engineering，2006，24 （4）：97－101 （in Chinese）.［黎群輝，張航.基于改進(jìn)概率神經(jīng)網(wǎng)絡(luò)的交通標(biāo)志圖像識別方法 ［J］.系統(tǒng)工程，2006，24 （4）：97－101.］

［14］CAI Jiliang，YE Wei.Air－raid target identification based on probabilistic neural network ［J］.Fire Control ＆ Command Control，2010，35 （12）：25－27 （in Chinese）.［蔡繼亮，葉微.基于概率神經(jīng)網(wǎng)絡(luò)的空襲目標(biāo)識別 ［J］.火力與指揮控制，2010，35 （12）：25－27.］

［15］LIU Jianxin.The study of algorithm about vehicle detection based on high resolution satellite image ［D］.Dalian：Dalian Maritime University，2008 （in Chinese）. ［劉建鑫.基于高分辨率衛(wèi)星影像的車輛檢測算法研究 ［D］.大連：大連海事大學(xué)，2008.］