用于相似字識(shí)別的手寫漢字特征優(yōu)化方法

高學(xué)，溫文歡，金連文

(華南理工大學(xué)電子與信息學(xué)院，廣東廣州510640)

經(jīng)過多年研究，盡管已經(jīng)取得了大量進(jìn)展，手寫漢字識(shí)別，特別是無約束的手寫漢字識(shí)別仍然是文字識(shí)別領(lǐng)域最困難的問題之一［1］.2010年，中國模式識(shí)別會(huì)議(CCPR2010)組織的手寫漢字識(shí)別比賽結(jié)果表明［2］，針對(duì)GB2312-80一級(jí)字符集的脫機(jī)手寫漢字識(shí)別，最好的系統(tǒng)僅可以達(dá)到89.89%的首候選識(shí)別率.手寫漢字識(shí)別的困難主要表現(xiàn)在大量相似漢字的存在、以及不規(guī)則的書寫變形等.一些相似漢字間的差別極其細(xì)微，例如，“干”和“于”、“大”和“太”等，由于無約束手寫漢字中的書寫變形的影響，將會(huì)導(dǎo)致這些相似字難以正確識(shí)別.同時(shí)，CCPR2010的測(cè)試結(jié)果也顯示，目前系統(tǒng)已經(jīng)可以達(dá)到98.64%的10候選正確識(shí)別率.因此，如何改善相似漢字的識(shí)別性能是提高無約束手寫漢字識(shí)別系統(tǒng)性能的關(guān)鍵問題之一.本文針對(duì)手寫漢字的特征提取問題，提出了一種用于相似字識(shí)別的特征優(yōu)化方法.

根據(jù)漢字筆畫的方向?qū)傩?，人們提出了許多有效的漢字特征提取方法［3-10］.本文首先介紹手寫漢字識(shí)別中常用的幾種典型特征提取方法，進(jìn)而提出一種特征優(yōu)化的解決思路.彈性網(wǎng)格特征是手寫漢字識(shí)別中的常用特征之一.Jin等［3］提出了一種方向分解彈性網(wǎng)格特征提取方法，通過彈性網(wǎng)格技術(shù)將漢字圖像劃分為子網(wǎng)格，在每個(gè)子網(wǎng)格中，通過求均值，得到子網(wǎng)格的特征值.Gabor特征是另一種常用的手寫漢字特征［4］.利用二維Gabor濾波器，Huo等［5］提出了一種用于大類別手寫漢字識(shí)別的Gabor特征提取方法.通過將具有L個(gè)方向的二維Gabor濾波器組與漢字圖像分別做卷積，得到像素點(diǎn)的L維Gabor特征值.然后根據(jù)漢字圖像的均勻網(wǎng)格劃分，取每個(gè)子網(wǎng)格中心點(diǎn)的特征值構(gòu)成漢字特征向量.梯度特征是目前手寫漢字識(shí)別中最廣泛使用的特征之一［4，9］.它最初由Liu等［6］提出并應(yīng)用于手寫數(shù)字的識(shí)別，后來在手寫漢字識(shí)別中也取得了較好效果［7，10］，該方法利用Sobel算子得到像素點(diǎn)的水平和垂直梯度，并通過梯度向量分解得到像素點(diǎn)的L維梯度編碼.聯(lián)機(jī)手寫漢字識(shí)別中常用的方向特征［8］，也采用了類似的筆畫分解過程.為了提取手寫漢字的梯度特征或者方向特征，通常利用彈性網(wǎng)格或均勻網(wǎng)格劃分將漢字圖像劃分為一些子區(qū)域，在每個(gè)子區(qū)域中通過加權(quán)求和運(yùn)算，例如求均值［7］或者高斯模糊化［8-10］等得到子區(qū)域的特征值.然而，這些基于區(qū)域劃分的特征提取方法，所提取特征無法有效地利用嵌入在子區(qū)域內(nèi)的區(qū)分信息，特別是對(duì)于差別細(xì)微的相似漢字.為了彌補(bǔ)這種不足，一個(gè)簡單的解決方法是，提高子區(qū)域劃分的分辨率，提取更高維的漢字特征.極端情況下，可以將每個(gè)像素看作一個(gè)子區(qū)域.然而，這種方法將會(huì)導(dǎo)致所提取的特征向量維數(shù)過高，例如，對(duì)于常規(guī)64×64大小的漢字圖像采用8方向的分解方法，將得到64×64× 8=32 768維的特征向量.由于目前的手寫漢字識(shí)別系統(tǒng)中［9-10］，特征向量一般會(huì)采用LDA(linear discriminant analysis)變換進(jìn)行特征降維，原始特征向量維數(shù)過高將導(dǎo)致LDA算法中的散度矩陣為奇異的.另外，這種方法也會(huì)導(dǎo)致LDA變換矩陣的存儲(chǔ)量過大而不實(shí)用.

受二維線性區(qū)分分析(two-dimensional LDA，2DLDA)變換［12-13］在人臉識(shí)別中成功應(yīng)用的啟發(fā)，本文將漢字特征提取過程和特征降維結(jié)合起來，提出了一種基于2DLDA變換的特征優(yōu)化方法，并用于手寫相似漢字的識(shí)別.文獻(xiàn)［14］給出了一些初步的實(shí)驗(yàn)結(jié)果.本文結(jié)合手寫漢字的梯度特征提取過程，對(duì)基于2DLDA變換的手寫漢字特征優(yōu)化方法進(jìn)行了分析和識(shí)別實(shí)驗(yàn).

1 2DLDA變換算法

LDA變換［11，15］是手寫漢字識(shí)別中廣泛使用的一種特征降維變換方法，它通過尋找一個(gè)最優(yōu)的線性變換矩陣，將模式向量從高維空間投影到低維空間，以使模式類間散度最大化和類內(nèi)散度最小化.由于在優(yōu)化過程中引入了模式類間的區(qū)分信息，經(jīng)過LDA變換后的特征向量不僅可以具有較低的維數(shù)，而且識(shí)別性能也會(huì)得到明顯改善.2DLDA變換算法［13，16-17］可以看作是LDA變換針對(duì)二維模式矩陣的降維變換的擴(kuò)展.在2DLDA變換中，進(jìn)行降維變換的輸入模式不再是一維的向量，而是二維的模式矩陣.2DLDA變換通過尋找最優(yōu)的行向和列向的線性變換矩陣，從而實(shí)現(xiàn)模式矩陣的降維變換.由于2DLDA變換中的類間和類內(nèi)散度矩陣具有較低的維數(shù)，算法的時(shí)間復(fù)雜度可以大大降低，因而在高維模式的壓縮變換中具有明顯的優(yōu)勢(shì).

以使模式類間散度最大化和類內(nèi)散度最小化.式中: Y為變換后的低維模式矩陣，變換后的矩陣行和列數(shù)分別為d1、d2(d1＜m，d2＜n).

2DLDA中變換矩陣的優(yōu)化問題包括列向變換矩陣Z的優(yōu)化和行向變換矩陣U的優(yōu)化.設(shè)、分別為考慮列向變換矩陣Z時(shí)的類內(nèi)散度矩陣和類間散度矩陣，類似于LDA算法中的Fisher優(yōu)化準(zhǔn)則，變換矩陣Z的優(yōu)化準(zhǔn)則可以定義為

同理，行向變換矩陣U的優(yōu)化準(zhǔn)則可以定義為

式中:

可以證明［9］:最優(yōu)變換矩陣Z和U*分別由矩陣的d1和d2個(gè)最大特征值對(duì)應(yīng)的特征向量構(gòu)成.特征向量的計(jì)算則可以通過特征值分解方法來實(shí)現(xiàn).然而，由于在求解最優(yōu)變換矩陣的過程中，行向和列向變換矩陣是相互依賴的，難以實(shí)現(xiàn)Z和U的同時(shí)優(yōu)化.Ye等［16］給出了一種迭代優(yōu)化方法，即先固定U，并根據(jù)式(2)～(4)求解Z，然后再固定Z，根據(jù)式(5)～(7)求解U.經(jīng)過一定的迭代次數(shù)，得到最優(yōu)的變換矩陣Z*和 U*.Noushath等［13］給出了另一種簡單有效的方法，即先固定U為單位矩陣，并根據(jù)式(2)～(4)求解最優(yōu)變換矩陣Z*，反之亦然.Noushath的方法可以看作是迭代優(yōu)化方法當(dāng)?shù)螖?shù)為0時(shí)的一個(gè)特例.Yang等［17］則采用先固定U為單位矩陣，并根據(jù)式(2)～(4)求解最優(yōu)變換矩陣Z*，然后再利用得到的Z*，根據(jù)(5)～(7)求解U*.文獻(xiàn)［17］的方法可以看作是迭代優(yōu)化方法當(dāng)?shù)螖?shù)為1時(shí)的一個(gè)特例.

2 梯度特征優(yōu)化

梯度特征是手寫漢字識(shí)別中最常用特征之一，其有效性已經(jīng)得到了廣泛的驗(yàn)證［4，7，9］.本節(jié)將基于梯度特征描述我們的特征優(yōu)化方法，手寫漢字識(shí)別中的其他常用特征，例如Gabor特征等，其優(yōu)化方法可以采用類似的過程.

如果將特征提取與降維變換看作一個(gè)整體，典型的手寫漢字特征提取過程可以分解為:1)特征屬性計(jì)算;2)網(wǎng)格劃分與特征向量構(gòu)建;3)LDA特征變換.特征屬性計(jì)算主要根據(jù)手寫漢字的筆畫結(jié)構(gòu)特點(diǎn)，在每個(gè)像素點(diǎn)計(jì)算描述漢字筆畫形狀及其變化信息的特征屬性值，并形成特征屬性矩陣.設(shè)輸入漢字圖像為f(i，j)，i=1，…，p;j=1，…，q，像素點(diǎn)(i，j)的特征屬性值為aij，則有特征屬性矩陣A為

不同的手寫漢字特征提取方法，特征屬性值的計(jì)算過程不同.對(duì)于梯度特征，則首先利用3×3的Sobel算子(如圖1)計(jì)算漢字圖像每個(gè)像素點(diǎn)的水平和垂直方向的梯度值，然后取L個(gè)等間隔(間隔為2π/L)的方向，并分別將每個(gè)像素點(diǎn)的梯度向量分解到最相近的2個(gè)方向，如圖1所示.因此，每個(gè)像素點(diǎn)(i，j)可以得到L維的特征屬性值(矢量)aij.在大多數(shù)的手寫漢字識(shí)別系統(tǒng)中［4，7，9］，8方向的梯度特征通常能夠獲得最好的漢字識(shí)別率，本文實(shí)驗(yàn)測(cè)試中也將采用這種參數(shù)設(shè)置.

圖1 Sobel算子和梯度向量分解Fig.1 Sobel operators and gradient vector decomposition

網(wǎng)格劃分與特征向量構(gòu)建則首先根據(jù)漢字圖像的筆畫像素分布，將圖像劃分為D×D個(gè)子網(wǎng)格(子區(qū)域)，如圖2所示.當(dāng)采用均勻網(wǎng)格劃分時(shí)，漢字圖像通常會(huì)進(jìn)行非線性歸一化的預(yù)處理，以適應(yīng)手寫漢字的書寫變形.然后，根據(jù)漢字圖像的網(wǎng)格劃分，對(duì)每個(gè)子網(wǎng)格內(nèi)像素點(diǎn)的特征屬性值進(jìn)行求均值或者高斯模糊化等加權(quán)求和運(yùn)算，得到該子網(wǎng)格的L維特征值，組合得到手寫漢字的特征向量 .由于彈性網(wǎng)格可以線性歸一化為統(tǒng)一大小，為表述簡便并不失一般性，本文假設(shè)漢字圖像采用均勻網(wǎng)格劃分.如果將特征屬性矩陣A按每個(gè)網(wǎng)格內(nèi)像素點(diǎn)的屬性值為一行重新排列后的新屬性矩陣為M，則:

式中:μkl為屬性值重新排列后，漢字圖像的第k個(gè)子網(wǎng)格的第l個(gè)像素點(diǎn)的屬性值;(ik，jk)為第k個(gè)子網(wǎng)格區(qū)域的中心坐標(biāo)，r×r為子網(wǎng)格區(qū)域大小;s，t分別為子網(wǎng)格區(qū)域的第l個(gè)像素點(diǎn)在該子網(wǎng)格內(nèi)的行列坐標(biāo)，l=l(s，t)=s×r+t.

圖2 漢字圖像的網(wǎng)格劃分Fig.2 Grid partition of Chinese character images

梯度特征向量v則可以表示為

式中:g(s，t)為子網(wǎng)格區(qū)域的梯度特征提取中的加權(quán)系數(shù)，g1和g2分別對(duì)應(yīng)求均值與高斯模糊化運(yùn)算，κ，σ為常量.

設(shè)W為基于特征向量v的LDA變換矩陣，則經(jīng)過LDA變換的梯度特征y可以表示為

從式(15)可以看出，經(jīng)過LDA變換的梯度特征向量y的計(jì)算過程具有類似2DLDA變換的形式(如式(1)).二者的區(qū)別在于:在傳統(tǒng)的梯度特征提取過程中，行方向的變換矩陣Q則采用如式(12)、(13)的經(jīng)驗(yàn)參數(shù)設(shè)置，因而難以獲得最有效的漢字區(qū)分特征.需要說明的是，在實(shí)際的高斯模糊化運(yùn)算中，式(14)的作用域可能會(huì)超出子網(wǎng)格區(qū)域.在這種情況下，根據(jù)式(14)的作用域大小，通過將漢字圖像劃分為部分重疊的子網(wǎng)格，則這種高斯模糊化運(yùn)算同樣可以涵蓋在式(11)所表述的框架中.

鑒于 2DLDA變換在人臉識(shí)別中的成功應(yīng)用［12-13，15］，本文提出利用2DLDA變換進(jìn)行手寫漢字特征的優(yōu)化，即利用2DLDA算法通過對(duì)樣本區(qū)分信息的學(xué)習(xí)，最大化類間散度和最小化類內(nèi)散度，如式(2)、(5)，分別實(shí)現(xiàn)列向和行向變換矩陣W、Q的優(yōu)化，避免了式(13)、(14)中的經(jīng)驗(yàn)參數(shù)設(shè)置，從而可以有效地發(fā)現(xiàn)訓(xùn)練樣本中的區(qū)分信息，提高手寫漢字特征的識(shí)別性能.另外，利用2DLDA變換進(jìn)行特征優(yōu)化，變換矩陣Q的列數(shù)可以不再限定為1.本文中將根據(jù)實(shí)驗(yàn)結(jié)果來確定變換后特征矩陣的最佳列數(shù)(即行向降維后的維數(shù)).

本文實(shí)驗(yàn)中分別采用Noushath的方法［13］和Ye的迭代優(yōu)化方法［16］進(jìn)行了測(cè)試.在迭代過程中，變換后模式矩陣的行和列數(shù)分別取D×D、r×r，在最終的特征變換中，則分別取d1和d2個(gè)最大特征值對(duì)應(yīng)的特征向量構(gòu)成最優(yōu)變換矩陣Z*和U*，實(shí)現(xiàn)特征降維.需要說明的是，傳統(tǒng)的LDA變換中，由于類間散度矩陣的秩最大為C－1，僅存在最多C－1個(gè)非零特征值對(duì)應(yīng)的特征向量，變換后的特征向量維數(shù)最大只能取C－1.對(duì)于2DLDA變換，變換后的模式矩陣的行和列維數(shù)最大可能超過C－1.以列向變換為例，其類間散度矩陣如式(3).不失一般性，設(shè)U取單位矩陣.令和分別為m×n維矩陣的第j列向量.則:

因此，經(jīng)過2DLDA變換后的模式矩陣的行數(shù)上限為n(C－1).

在梯度特征的優(yōu)化實(shí)驗(yàn)中，文中采用了均勻網(wǎng)格劃分方法.為了適應(yīng)手寫漢字的書寫變形，在屬性矩陣計(jì)算和特征優(yōu)化之前，手寫漢字圖像采用基于線間隔的非線性形狀歸一化方法［18］，將漢字圖像歸一化為64×64，然后均勻劃分為8×8=64個(gè)子網(wǎng)格，并計(jì)算每個(gè)像素點(diǎn)的8方向梯度特征屬性值.

3 識(shí)別實(shí)驗(yàn)及討論

為了驗(yàn)證本文提出的手寫漢字特征優(yōu)化方法的識(shí)別性能，我們利用 863手寫體漢字樣本字庫HCL2000中的樣本進(jìn)行了漢字識(shí)別實(shí)驗(yàn).HCL2000［19］是由北京郵電大學(xué)發(fā)布的一套脫機(jī)手寫漢字識(shí)別樣本庫，手寫漢字掃描分辨率為300DPI，并被線性歸一化為64×64的二值圖象.實(shí)驗(yàn)中，從中隨機(jī)選擇了200套漢字樣本，其中100套作為訓(xùn)練樣本，100套作為測(cè)試樣本.

本文從國標(biāo)GB2312-80一級(jí)字庫中選取15組易于混淆的相似漢字集作為測(cè)試對(duì)象，其中每組包含10個(gè)相似漢字，由另外單獨(dú)訓(xùn)練的分類器給出的10個(gè)候選字構(gòu)成.圖3給出了一些相似漢字樣本.實(shí)驗(yàn)中，對(duì)15組相似漢字集分別進(jìn)行識(shí)別測(cè)試，分類器則采用最小歐氏距離分類器.

圖3 實(shí)驗(yàn)中的相似漢字樣本Fig.3 Some samples of the selected similar Chinese character sets in experiments

第1個(gè)實(shí)驗(yàn)測(cè)試了2種不同2DLDA變換矩陣求解方法，對(duì)優(yōu)化后的手寫漢字梯度特征識(shí)別性能的影響.實(shí)驗(yàn)結(jié)果如圖4所示.

圖4 不同2DLDA變換矩陣求解方法的識(shí)別結(jié)果Fig.4 Recognition results with the different ways of computation of 2DLDA transformation matrices

從圖4(a)、(b)中可以看出，不同的行向壓縮維數(shù)下，識(shí)別率相對(duì)穩(wěn)定，且行向壓縮維數(shù)d2為1時(shí)，識(shí)別率相對(duì)較高.表明經(jīng)過優(yōu)化的手寫漢字梯度特征，每個(gè)子網(wǎng)格取1個(gè)特征分量時(shí)，已經(jīng)能夠獲得較好的區(qū)分能力.而隨著列向壓縮維數(shù)的增加，識(shí)別率將會(huì)顯著提高.當(dāng)識(shí)別率增加到一定程度，再增加列向壓縮維數(shù)，并不能改善漢字特征的區(qū)分能力.從圖4(c)可以看出，變換矩陣求解中不進(jìn)行迭代優(yōu)化，經(jīng)過優(yōu)化后的梯度特征，其識(shí)別性能具有一定的優(yōu)勢(shì).因此，以下實(shí)驗(yàn)中，變換矩陣求解中不再進(jìn)行迭代優(yōu)化，且行向壓縮維數(shù)d2取1.

第2個(gè)實(shí)驗(yàn)對(duì)比了在相同特征壓縮維數(shù)下，本文方法優(yōu)化后的梯度特征與傳統(tǒng)梯度特征的識(shí)別性能.在傳統(tǒng)梯度特征提取中，采用了以下3種策略: 1)利用彈性網(wǎng)格技術(shù)將漢字圖像劃分為子網(wǎng)格，在每個(gè)子網(wǎng)格中求梯度屬性的均值，構(gòu)成梯度特征向量(記為M1);2)將漢字圖像劃分為均勻網(wǎng)格，并在每個(gè)子網(wǎng)格中求梯度屬性的均值，構(gòu)成梯度特征向量(記為M2);3)將漢字圖像劃分為均勻網(wǎng)格，并在每個(gè)子網(wǎng)格中利用高斯模糊化運(yùn)算，構(gòu)建梯度特征向量(記為M3).在上述特征提取中，均采用8×8的網(wǎng)格劃分.當(dāng)采用均勻網(wǎng)格時(shí)，首先采用基于線間隔的非線性歸一化方法［17］將漢字圖像歸一化為64 ×64.在高斯模糊化運(yùn)算中，波長等參數(shù)則采用文獻(xiàn)［8］中推薦的設(shè)置.在傳統(tǒng)梯度特征提取中，特征向量均利用LDA變換進(jìn)行特征降維.圖5為幾組不同相似字的行向變換中，最大特征值對(duì)應(yīng)的歸一化后特征向量的值(僅給出了前16個(gè)分量).從圖5可以看出，對(duì)于不同的相似字組，其最大特征值對(duì)應(yīng)的特征向量具有明顯的差別，表明其區(qū)分信息的位置各不相同.對(duì)于同組相似字，特征向量各分量的值不同，表明不同位置的像素點(diǎn)對(duì)區(qū)分信息的貢獻(xiàn)也有差別.

圖5 不同相似字的行向變換中，最大特征值對(duì)應(yīng)的歸一化后特征向量的值(前16個(gè)分量)Fig.5 Normalized eigenvectors corresponding to the largest eigenvalue in row vector transformation for several different sets of similar characters (The first 16 elements)

識(shí)別性能的實(shí)驗(yàn)結(jié)果如圖6和表1所示.圖6(a)可以看出，對(duì)于不同的相似漢字集，在特征壓縮到相同維數(shù)的情況下，經(jīng)過本文方法優(yōu)化后的梯度特征，其識(shí)別性能均高于經(jīng)過LDA變換后的3種典型梯度特征.對(duì)于本文方法，則為固定行向壓縮維數(shù)為1時(shí)，不同列向壓縮維數(shù)的識(shí)別率.

圖6 相同壓縮維數(shù)下不同梯度特征的識(shí)別結(jié)果比較Fig.6 Recognition results comparison of different gradient features with the equal reduced dimensions

表1 不同梯度特征的最好識(shí)別結(jié)果Table 1 The best recognition rate obtained with different gradient features

圖6(b)可以看出，相對(duì)傳統(tǒng)方法，本文方法的識(shí)別率具有明顯的提高.在表1中，我們總結(jié)了3種典型梯度特征提取方法和本文方法所獲得的最好識(shí)別率.可以看出，相對(duì)于具有最好性能的傳統(tǒng)梯度特征提取方法 M3，手寫漢字識(shí)別錯(cuò)誤率可以降低48.86%(優(yōu)化后的特征維數(shù)為1×23)和36.39% (優(yōu)化后的特征維數(shù)取)，識(shí)別率得到明顯改進(jìn).實(shí)驗(yàn)結(jié)果表明，本文提出的特征優(yōu)化方法可以有效地發(fā)現(xiàn)訓(xùn)練樣本中的區(qū)分信息，驗(yàn)證了本文方法的有效性.

4 結(jié)論

本文介紹了一種基于2DLDA的手寫漢字特征優(yōu)化方法，并用于相似漢字識(shí)別.通過將特征提取與降維變換結(jié)合起來，并設(shè)計(jì)統(tǒng)一的線性區(qū)分分析優(yōu)化準(zhǔn)則，實(shí)現(xiàn)特征的優(yōu)化.實(shí)驗(yàn)結(jié)果表明:

1)相對(duì)于傳統(tǒng)的特征提取和LDA變換，基于2DLDA的優(yōu)化方法可以有效地發(fā)現(xiàn)相似漢字間的區(qū)分信息，改善識(shí)別性能;

2)經(jīng)過優(yōu)化的特征，其識(shí)別性能要優(yōu)于傳統(tǒng)通過經(jīng)驗(yàn)參數(shù)設(shè)置所提取的特征.相似手寫漢字識(shí)別是進(jìn)一步提高無約束手寫漢字識(shí)別系統(tǒng)性能的關(guān)鍵問題之一，所提出的方法可以用于改善相似字的識(shí)別性能.另外，所提出的方法也可以應(yīng)用于其他常用手寫漢字特征，例如Gabor特征等優(yōu)化過程中.

［1］LIU C L，F(xiàn)UJISAWA H.Classification and learning methods for character recognition:advances and remaining problems［M］//MARINAI S，F(xiàn)UJISAWA H.Machine Learning in Document Analysis and Recognition.Berlin:Springer -Verlag，2008:139-161.

［2］LIU C L，YIN F，WANG D H，et al.Chinese handwriting recognition contest 2010［C］//Proc of 2010 Chinese Conference on Pattern Recognition.Beijing，China，2010:1-5.

［3］JIN L W，WEI G.Handwritten Chinese character recognition with directional decomposition cellular features［J］.Journal of Circuits，System，and Computers，1998，8(4): 517-524.

［4］DING K，LIU Z B，JIN L W，et al.A comparative study of Gabor feature and gradient feature for handwritten Chinese character recognition［C］//Proc of 2007 Int Conf on Wavelet Analysis and Pattern Recognition.Beijing，China，2007:1182-1186.

［5］HUO Q，GE Y，F(xiàn)ENG Z D.High performance Chinese OCR based on Gabor features，discriminative feature extraction and model training［C］//Proc of IEEE Int Conf Acoustics，Speech，and Signal Processing.Salt Lake City，2001: 1517-1520.

［6］LIU C L，NAKASHIMA K，SAKO H.et al.Handwritten digit recognition:investigation of normalization and feature extraction techniques［J］.Pattern Recognition，2004，37 (2):265-279.

［7］LIU H，DING X.Handwritten character recognition using gradient feature and quadratic classifier with multiple discrimination schemes［C］//Proc of 8th Int Conf on Document Analysis and Recognition.Seoul，2005:19-23.

［8］BAI Z L，HUO Q.A study on the use of 8-directional features for online handwritten Chinese character recognition［C］//Proc of 8th Int Conf on Document Analysis and Recognition.Seoul，2005:262-266.

［9］LIU C L.Normalization-cooperated gradient feature extraction for handwritten character recognition［J］.IEEE Trans Pattern Analysis and Machine Intelligence，2007.29(8): 1465-1469.

［10］LONG T，JIN L W.Building compact MQDF classifier for large character set recognition by subspace distribution sharing［J］.Pattern Recognition，2008，41(9):2916-2925.

［11］FISHER R A.The use of multiple measurements in taxonomic problems［J］.Annals of Eugenics，1936，7:179-188.

［12］MING L，YUAN B.2D-LDA:a statistical linear discriminant analysis for image matrix［J］.Pattern Recognition Letters，2005，26(5):527-532.

［13］NOUSHATH S，HEMANTHA K G，SHIVAKUMARA P. (2D)2LDA:an efficient approach for face recognition［J］.Pattern Recognition，2006，39(7):1396-1400.

［14］GAO X，WEN W H，JIN L W.A new feature optimization method based on two-directional 2DLDA for handwritten Chinese character recognition［C］//Proc of the 11th Int Conf Document Analysis and Recognition.Beijing，China，2011:232-236.

［15］RAO C R.The utilization of multiple measurements in problems of biological classification［J］.J Royal Statistical Soc.B:Methodological，1948，10:159-203.

［16］YE J，JANARDAN R，LI Q.Two-dimensional linear discriminant analysis［C］//Proc of the 8th Annual Conf on Neural Information Processing Systems.Victoria，British Columbia，Canada，2004:1569-1576.

［17］YANG J，ZHANG D，YONG X，et al.Two-dimensional discriminant transform for face recognition［J］.Pattern Recognition，2005，38(7):1125-1129.

［18］LEE S W，PARK J S.Nonlinear shape normalization methods for the recognition of large set handwritten character［J］.Pattern Recognition，1994，27(7):895-902.

［19］ZHANG H，GUO J，CHEN G，et al.HCL2000—a largescale handwritten Chinese character database for handwritten character recognition［C］//Proc of The 10th Int Conf Document Analysis and Recognition.Barcelona，Spain，2009:286-290.