面向圖像分類的任務驅(qū)動型分析字典學習

高 榮， 陳嬋娟*， 魏 憲

(1.陜西科技大學 機電工程學院， 陜西 西安 710021； 2.中國科學院海西研究院 泉州裝備制造研究所， 福建 泉州 362000)

0 引言

稀疏表示在機器學習、圖像和信號處理等領(lǐng)域得到了廣泛的應用，如圖像去噪[1]、識別[2,3]、壓縮[4]、分類[5,6]以及音頻處理[7].具體來說，稀疏表示是利用過完備字典線性表示輸入信號，其性能主要取決于過完備字典的重構(gòu)性和判別性，因此字典的構(gòu)建對于稀疏表示至關(guān)重要.通過使用預定義的分析字典(例如，小波字典，Gabor字典)來表示信號，可以通過簡單的內(nèi)積運算來產(chǎn)生表示系數(shù).這種快速而明確的編碼使字典學習在圖像表示中非常有吸引力.此外，相對于深度學習，基于字典學習的分類算法需要較少的訓練集，同時可以對非高斯噪聲有較好的魯棒性.

字典學習中一種常用的分支是合成字典學習(synthesis dictionary learning,SDL)，近年來被廣泛地應用于圖像分類任務中.分類問題的目標是為測試樣本分配正確的類別標簽，所以對于這類任務來說主要關(guān)注的是字典的判別性.因此，提出了很多受監(jiān)督的字典學習方法用于提高字典的判別能力.

判別性字典學習的一種常見方法是學習所有類的共享字典，強制將編碼系數(shù)區(qū)分，同時訓練編碼系數(shù)上的分類器用于分類.Mairal等[8]提出了在編碼向量空間中學習字典和相應的線性分類器.Jiang等[2]引入了二進制類標簽稀疏矩陣，使得來自同一類別的樣本具有相似的稀疏編碼.Mairal等[9]提出了一種任務驅(qū)動型字典學習(Task-driven dictionary learning,TTDL)框架，該框架最大程度地減小了針對不同任務編碼系數(shù)的不同代價函數(shù).判別性字典學習的另一種常見的研究方法是學習結(jié)構(gòu)化字典以促進不同類之間的區(qū)別，結(jié)構(gòu)化的字典中原子具有類標簽并且可以計算特定類的殘差以促進分類.Ramirez等[10]引入一個不連貫促進項使得不同類的子字典獨立.Yang等[11]提出了一種Fisher判別字典學習(Fisher discrimination dictionary learning,FDDL)方法，該方法將Fisher準則應用于表示殘差和編碼系數(shù).Z.Wang等[5]從大邊距的角度出發(fā)提出了最大邊距字典學習(Max-Margin dictionary learning,MMDL)算法.然而，SDL的低效率限制了其發(fā)展.在現(xiàn)有的大多SDL方法中，由于稀疏系數(shù)可能產(chǎn)生更好的分類結(jié)果，因此使用l0范數(shù)或者l1范數(shù)來規(guī)范化稀疏表示.盡管近年來已經(jīng)提出了很多提高稀疏編碼效率的算法[12,13]，但是使用l0范數(shù)或l1范數(shù)正則化仍然使得計算復雜度變高，訓練和測試效率變低.

然而，作為SDL對偶變化的分析字典學習(analysis dictionary learning,ADL)越來越受到關(guān)注.S.Shekhar等[6]學習了分析字典，然后訓練了SVM分類器以進行數(shù)字和面部識別.他們的結(jié)果表明，在噪聲和遮擋下，ADL比SDL更加穩(wěn)定，并且具有競爭優(yōu)勢.文獻[14]和[15]都僅提出了分析字典學習的解決方案.J.Guo等[16]將局部拓撲結(jié)構(gòu)和可區(qū)分的稀疏標簽集成到ADL中，并使用k近鄰分類器進行分類.但是關(guān)于任務驅(qū)動的ADL進行的嘗試很少.

這些先前在分析詞典學習中的工作都使得訓練階段的優(yōu)化更簡單和測試階段的速度更快.但是，對于分類任務尚未充分利用分析字典學習.受到合成字典學習中重要方法[9,17]的啟發(fā)，本文構(gòu)建了受監(jiān)督的任務驅(qū)動型分析字典學習(Task-driven analyis dictionary learning,TADL)模型，通過結(jié)構(gòu)化的分析字典提高模型的判別性以及跡商準則(獲取特征之間的關(guān)系)，極大的提高了模型的分類精度.

1 字典學習

用X=[x1,x2,…,xn]∈Rd×n表n個原始樣本，A=[a1,a2,…,an]∈Rm×n表示通過字典得到的X的系數(shù)矩陣.在SDL中，合成字典D=[d1,d2,…,dn]∈Rd×m(通常d

(1)

式(1)中：Γ是字典D的約束集合；T是約束稀疏水平的正整數(shù).

作為合成字典的對偶變換，分析字典學習直接將作用于特征樣本，與特征變換類似，并且可以提高測試效率.分析字典Ω∈Rm×d(通常m>d)通過求解式(2)可以得到：

(2)

2 任務驅(qū)動型分析字典學習

在本節(jié)中，將充分闡述所提出的任務驅(qū)動型分析字典學習(TADL)，這種方法將結(jié)構(gòu)化的分析字典項[18]和跡商準則相結(jié)合，用于提高傳統(tǒng)ADL的判別性能.

2.1 結(jié)構(gòu)化的分析字典項

設(shè)X=[x1,…,xk,…,xK]為來自K類的一個訓練數(shù)據(jù)集，其中Xk∈Rd×nk表示來自第k類的nk個樣本.通過求解式(3)得到結(jié)構(gòu)化的分析字典Ω=[w1,…,wk,…,wK]T:

(3)

在式(3)中，第一部分：每個子字典只能將同一類中的樣本轉(zhuǎn)化為編碼系數(shù)；第二部分：子字典Ωk將來自不同類i(i≠k)的數(shù)據(jù)轉(zhuǎn)換到幾乎為0的空間.這就是說,在i≠k時，Ωkxi≈0.這樣的約束使得Φk具有塊對角結(jié)構(gòu).

2.2 跡商準則的優(yōu)化(TQ)

經(jīng)典的降維方法是為給定的樣本xi∈Rm通過相關(guān)映射(μ:Rm→Rl)尋找低維表示yi∈Rl,其中l(wèi)

T(l,m)={u∈Rm×l|UTU=Il|}

(4)

具體來說，本文將正交投影設(shè)定為μ(x)=UTx.該模型涉及許多經(jīng)典的監(jiān)督和非監(jiān)督學習方法，如LDA，MFA，PCA等.由于本文所要構(gòu)建的任務驅(qū)動型分析字典模型屬于監(jiān)督學習過程，為保證整體模型的可行性，本文選擇的是有監(jiān)督的LDA模型.

(5)

ΦLbΦT

(6)

式(6)中：

Lb=CbΠc(Cb)T;

尋求U∈T(l,m)最優(yōu)的一種常見方法是最大化跡商，即

(7)

式(7)中：矩陣A,B∈Rm×m通常為對稱的半正定矩陣，本文由式(5)，(6)得到.選擇常數(shù)σ>0來防止分母為0.

很明顯，式(7)中問題的解是旋轉(zhuǎn)不變的，使得U*∈T(l,m)成為該問題的一個解.那么對于任意的Θ∈Rl×l，U*Θ是正交的.換句話說，式(7)的解集是在Rm中所有l(wèi)維線性子空間的集合.為了處理這種結(jié)構(gòu)引入了Grassmann流形，它可以交替地被識別為所有m維且秩為l的正交投影的集合，即

F(l,m)={UUT|U∈T(l,m)|}

(8)

根據(jù)式(7)、(8)，跡商問題可以表示為：

(9)

式(9)中：投影矩陣P=UUT.

2.3 TADL模型

本節(jié)將結(jié)構(gòu)化的分析字典和跡商準則相結(jié)合來構(gòu)造任務驅(qū)動型分析字典學習模型，該模型是一個有效的兩層表示聯(lián)合學習框架，第一層為分析字典學習，第二層為跡商準則.這樣利用跡商準則學習簡單的稀疏表示，使得框架具有很好的分類性能.具體的代價函數(shù)如下：

f:E(r,m)×F(l,r)→R

(10)

式(10)中：投影矩陣P的作用是在圖像的稀疏表示中捕獲低維判別特征；Φ由式(3)得到；A、B由式(5)、(6)可以得到.

為了防止分析字典的解具有高度相干性，確保稀疏解的局部平滑，本文在所有分析字典中行的標量積上引入對數(shù)障礙函數(shù)來限制所學分析字典的相干性.對于分析字典Ω=[w1,…,wk,…,wK]，對數(shù)障礙函數(shù)為：

(11)

綜上，任務驅(qū)動型分析字典學習模型的代價函數(shù)為：

J:E(r,m)×F(l,r)→R

J(Ω,P)=f(Ω,P)-μh(Ω)

(12)

式(12)中：權(quán)重因子μ>0控制正則化項對最終解的影響.

3 優(yōu)化過程

為了求解式(12)的最優(yōu)解，本文依次對TADL模型的第一、二層進行了優(yōu)化求解.

3.1 TADL模型第一層的優(yōu)化過程

TADL的第一層是求解式(3)得到系數(shù)編碼矩陣的最優(yōu)解Φ*.首先用給定數(shù)據(jù)樣本初始化分析字典Ω,然后交替更新系數(shù)編碼矩陣Φ和分析字典Ω，則式(3)的優(yōu)化可以在下面兩個步驟之間交替進行：

(1)固定Φ，更新Ω，則式(3)的優(yōu)化就變?yōu)椋?/p>

(13)

通過將上式的一階導數(shù)置零，可以很容易求得分析字典Ω的閉式解為：

(14)

(2)固定Ω，更新Φ，則式(3)的優(yōu)化就變?yōu)椋?/p>

(15)

則Φ的閉形解為

(16)

3.2 TADL模型第二層的優(yōu)化過程

本節(jié)，首先分析TADL代價函數(shù)的可微性，然后在Riemannian流形上利用一種幾何共軛梯度(CG)算法來最大化TADL的代價函數(shù).

3.2.1 TADL的可微性

本小節(jié)將分析TADL代價函數(shù)J的可微性并在積流形上E(r,m)×F(l,r)∈Rr×m×Rl×r計算其Euclidean梯度,這是為計算3.2.2節(jié)中J的Riemannian梯度做準備，會將Ω和P限制在該流形中.

(1)計算J關(guān)于正交投影P的Euclidean梯度：

(17)

(2)計算J關(guān)于分析字典Ω的Euclidean梯度：

(18)

式(18)中正則化項的Euclidean梯度可以很容易得到：

(19)

式(19)中：ei∈Rr是Rr的第i個基向量.式(18)第一項f(Ω)的計算要求稀疏表示Φ(Ω,X)可微.

(20)

為了計算f關(guān)于Ω的Euclidean導數(shù)，則需要計算Ω∈Rr×m在方向Ξ∈Rr×mΞ∈Rr×m上的方向?qū)?shù)：

(21)

式(21)中：DA(Φ):Rr×m→Rr×r和DB(Φ):Rr×m→Rr×r是A(·)和B(·)的方向?qū)?shù).由f(Ω)方向?qū)?shù)D1f(Ω)Ξ可以很容易得到f關(guān)于Ω的Euclidean導數(shù).

3.2.2 一種關(guān)于TADL的幾何共軛梯度算法

本節(jié)將在積流形Z=E(r,m)×F(l,r)利用幾何共軛梯度(CG)算法來實現(xiàn)式(12)中函數(shù)J的最大化.

CG算法有許多優(yōu)越的特性，比如超線性收斂速度以及適用于低計算復雜度的大規(guī)模優(yōu)化問題.經(jīng)典的幾何CG算法要求測地線和平行變換，這使得在計算上要求更高.本文引入了回縮和其相應的變換向量來替代測地線和平行變換的概念.關(guān)于本文的CG-TADL算法的流程見圖1所示.具體實現(xiàn)過程如算法1所示.

圖1 CG-TADL框架更新示意圖

算法1： CG-TADL算法框架

輸入：X∈Rm×n,函數(shù)A見式(6)，函數(shù)B見式(5)

輸出：Ω*∈E(r,m),P*∈F(l,r)

(1)給定初始化

Ω(0)∈E(r,m),P(0)∈F(l,r),j=-1；

(2)G(0)=gradJ(Ω(0),P(0)),H(0)=-G(0)；

(3)令j=j+1；

(4)通過式(16)更新稀疏矩陣Φ(j)；

(5)令M(j)=(Ω(j),P(j))；

②計算G(j+1)=gradJ(M(j))；

③更新

H(j+1)←-G(j+1)+βVM(j),t*H(j)(H(j))，其中β的選擇使得VM(j),tH(j)(G(j))和H(j+1)與J在M點的Hessian矩陣共軛；

(6)如果‖M(j+1)-M(j)‖足夠小，則停止迭代，否則轉(zhuǎn)至步驟(3).

隨后，本文將闡述CG-TADL算法的一些關(guān)鍵細節(jié).首先，介紹關(guān)于積流形Z的一些基礎(chǔ)概念.將積流形Z在點M(Ω,P)的切平面定義為：

TMZ=TΩE(r,m)×TpF(l,r)

(22)

其中TΩE(r,m)和TPF(l,r)分別代表流形E(r,m)和Grassmann流形F(l,r)的切平面.將流形Z從周圍歐氏空間繼承的Riemannian度量定義為：

(23)

在算法1的每次循環(huán)中，計算J的Riemannian梯度之前，應該先計算通過式(17)和(18)來計算J關(guān)于P和Ω的Euclidean梯度，則計算J的Riemannian梯度只需將式(23)定義的Riemannian度量投影到對應切平面TMZ上，即：

gradJ(Ω,P)=(grad1J(Ω,P),grad2J(Ω,P))

(24)

式(24)中：grad1J(Ω,P)和grad1J(Ω,P)分別是J關(guān)于Ω和P的Riemannian梯度.具體來說，J關(guān)于Ω的Riemannian梯度為：

grad1J(Ω,P)=J(Ω)-

Ωddiag(ΩTJ(Ω))

(25)

式(25)中：ddiag是將方陣的對角線元素放入對角矩陣中.函數(shù)J關(guān)于P的Riemannian梯度為

grad2J(Ω,P)=PJ(P)+J(P)P-

2P(J(P))P

(26)

回縮ΓM：因為TMZ→Z是從切平面TMZ到流形Z的一個平滑映射，所以ΓM(0)=M和它的導數(shù)DΓM(0)是恒等映射(即TMZ→TMZ).在單元球(即構(gòu)成流形E(r,m))的單元)中，對于w∈E(1,m),ε∈Tww(1,m)對應的回縮定義為:

(27)

在Grassmann流形F(l,r)上，首先需要為P∈F(l,r)和Ψ∈TpF(l,m)構(gòu)建映射關(guān)系：

ζP,Ψ(t)=(Ir+t(ΨP-PΨ))Q

(28)

式(28)中：t>0是更新時的步長；(·)Q是可逆矩陣唯一的QR分解.根據(jù)式(28)可將在F(l,r)上的回縮定義為：

γP,Ψ(t)=ζP,Ψ(t)P(ζP,Ψ(t))T∈F(l,m)

(29)

根據(jù)式(27)、式(29)，將在積流形Z=E(r,m)×F(l,m)上的合成回縮按如下定義，其中M=(Ω,P)∈Z,H=(Ξ,Ψ)∈TMZ.

ΓM,H(t)=([γwiεi(t)]i=1,…,k,γP,Ψ(t))

(30)

式(30)將用于完成在積流形Z上的線性搜索，即算法1中的步驟(5)-①，將式(27)中的回縮γw,ε在E(1,m)上的變換向量定義為：

(31)

將式(29)中的回縮tH=(Ξ,Ψ)∈T(Ω,p)Z在F(l,m)上的變換向量定義為：

(32)

最后，將合成回縮ΓM,H(t)在方向tH(t)=(Ξ,Ψ)∈T(Ω,P)Z上的變換向量通過映射VM,H:TMZ→TΓM,H(t)Z定義為：

(33)

步驟(5)-③中的方向參數(shù)通過下式來更新：

(34)

4 實驗結(jié)果與分析

4.1 實驗數(shù)據(jù)集

實驗將在2個數(shù)據(jù)集上進行驗證，這兩個數(shù)據(jù)集為：Scene15數(shù)據(jù)集、AR人臉數(shù)據(jù)集.

Scene15數(shù)據(jù)集總共有4 485張圖片，被分為15類.每個類別中的圖像數(shù)量從200到400不等，圖像大小約為300×250像素.圖像內(nèi)容多樣，不僅包含室內(nèi)場景(例如臥室，廚房)，還包含室外場景(例如建筑物和鄉(xiāng)村景觀等).

AR人臉數(shù)據(jù)集包含光照、遮擋和表情變化對所選對象的影響.本實驗從50位男性和50位女性中選擇2 600張面部圖作為數(shù)據(jù)樣本.

4.2 實驗設(shè)計

4.2.1 參數(shù)設(shè)定

在本文所提出的模型中，有兩個參數(shù)需要設(shè)置λ1和λ2，最優(yōu)的λ1和λ2通過交叉驗證得到，具體設(shè)置見表1所示.

表1 不同數(shù)據(jù)集的最優(yōu)參數(shù)設(shè)置

當數(shù)據(jù)集為Scene15數(shù)據(jù)集時，將分析字典的原子數(shù)設(shè)置為750，每類的分析字典原子數(shù)為100.取其中的1 500張圖片作為訓練集，其余為測試集.當數(shù)據(jù)集為AR人臉數(shù)據(jù)集時，將分析字典的原子數(shù)設(shè)置為600，每類的分析字典原子數(shù)為6.取其中的2000張圖片作為訓練集，其余為測試集.

4.2.2 對比實驗

實驗1：將本文提出的方法與傳統(tǒng)分析字典學習(analysis dictionary learning,ADL+SVM)[6]、投影字典對學習(Projective dictionary pair learning,DPL)[20]進行對比，實驗中對不同的方法采用相同的參數(shù)設(shè)置，在Scene15數(shù)據(jù)集和AR人臉數(shù)據(jù)集上進行評估，具體結(jié)果見表2所示.

表2 在兩個數(shù)據(jù)集上的分類準確度(%)

實驗2：利用數(shù)據(jù)集Scene15和AR，將經(jīng)典的LDA算法[19]以及低維稀疏表達(sparsese low dimensional representation,SparLow)[17]與本文方法進行對比.LDA算法使得不同類間的區(qū)別做大化，同一類內(nèi)的區(qū)別最小化，以便更好地進行分類；SparLow方法是將合成字典學習與跡商準則聯(lián)合學習的一種分類模型；本文的TADL方法是將結(jié)構(gòu)化的分析字典與跡商準則聯(lián)合學習來進行分類，與以上的兩種試驗方法可由直觀和鮮明的對比.重點是對傳統(tǒng)合成分析字典與本文結(jié)構(gòu)化的分析字典的比較.具體實驗結(jié)果見表3所示.

表3 在兩個數(shù)據(jù)集上的分類準確度 (%)

4.3 實驗結(jié)果

從表2可以看出，本文提出的TADL方法取得了較好的分類精度.ADL+SVM由于缺少判別約束，所以分類精度較低.對于PDL方法，字典的學習沒有針對每一類樣本特征，而是采用了共享字典.

在實驗2中，利用PCA(principal component analysis)對數(shù)據(jù)進行降維，降維后的數(shù)據(jù)見表4所示.

表4 PCA降維后數(shù)據(jù)特征維度

由實驗2的結(jié)果(表3所示)可以看出，本文模型TADL比利用傳統(tǒng)合成字典的SparLow方法的分類精度高出1%點多，驗證了本文分析字典項的判別優(yōu)勢.

此外，實驗還測試了TADL模型在數(shù)據(jù)集Scene15上對不同參數(shù)的敏感，主要的參數(shù)為λ1和λ2,通過設(shè)置：λ1=[1e-2,3e-3,8e-3],λ2=[1e-4,8e-4,1e-7].評估結(jié)果如圖2所示.

圖2 不同參數(shù)下TADL的分類精度圖

從圖2可以看出，當λ1=1e-2和λ2=1e-7時，TADL方法在Scene15數(shù)據(jù)集上的分類進度最高，可達98.6%.

至于運行效率，TADL的測試效率比SparLow、PDL以及ADL+SVM更高，它沒有像l0 范數(shù)或l1 范數(shù)這樣的稀疏性約束，因此大大降低了訓練和測試階段的計算復雜度.

5 結(jié)論

本文主要研究了分析字典學習在圖像分類中的應用，構(gòu)建了一個有兩層結(jié)構(gòu)且受監(jiān)督的任務驅(qū)動型分析字典學習模型.不同于其他ADL學習方法，本文聯(lián)合學習了結(jié)構(gòu)化的分析字典和跡商準則，將分類問題轉(zhuǎn)化為低秩約束的判別分析字典問題，并在經(jīng)典分類數(shù)據(jù)集進行了性能評估.與其他先進的分類方法相比，分類精度得到了明顯提升(例如，在實驗2Scene15數(shù)據(jù)集上，本模型的分類精度比字典部分使用合成字典的SparLow高出近0.7%).但是本文僅得到了具有一定判別能力且受監(jiān)督的分析字典模型，適用于小樣本進行學習和表達，如何提升本模型對大樣本的表達精度是下一步的工作方向.