稀疏梯度域非參數(shù)貝葉斯字典學(xué)習(xí)圖像去噪

朱 路，劉 松，曹賽男，劉媛媛

(華東交通大學(xué) 信息工程學(xué)院，江西 南昌 330013)

0 引 言

圖像去噪問題是各種圖像處理研究領(lǐng)域的主要內(nèi)容之一[1,2]。原始圖像在合適的字典下具有稀疏性而噪聲無(wú)這一特性，若能對(duì)含噪圖像進(jìn)行稀疏性重建，其結(jié)果便可實(shí)現(xiàn)去噪的效果[3]。近些年來(lái)，稀疏表示在圖像去噪中得到廣泛應(yīng)用，并成為當(dāng)前圖像處理領(lǐng)域的研究熱點(diǎn)[4,5]。

在圖像稀疏表示理論研究領(lǐng)域中，字典的構(gòu)造和產(chǎn)生是稀疏表示理論的重要研究?jī)?nèi)容之一。K-SVD[6]字典學(xué)習(xí)方法能自適應(yīng)地對(duì)信號(hào)進(jìn)行稀疏表示，該方法的基本思想是采用奇異值分解代替了逆矩陣逐個(gè)更新字典原子和稀疏系數(shù)，減少了誤差。Ravishankar等[7]提出了DLMRI算法，該算法在局部結(jié)構(gòu)的重疊圖像塊上執(zhí)行稀疏性框架，并采用K-SVD字典學(xué)習(xí)算法從高度欠采樣的k空間數(shù)據(jù)中重建圖像。大部分圖像噪聲具有隨機(jī)性，而自然圖像通常在一些變換域中存在良好的稀疏特性，如梯度域，考慮這些特點(diǎn)，Liu等[8]提出GradDLRec算法，該算法分別從圖像的水平方向和垂直方向進(jìn)行全變分(total variation，TV)變換，在此稀疏差分域中采用K-SVD字典學(xué)習(xí)方法訓(xùn)練字典，該方法訓(xùn)練得到的字典的稀疏表示能力更好，所以可以重建出更高分辨率的圖像。雖然，基于差分域的K-SVD字典學(xué)習(xí)方法能有效地對(duì)噪聲圖像超分辨率重建。然而，該字典學(xué)習(xí)算法通常需假定噪聲方差，字典規(guī)模和信號(hào)稀疏度等，這些信息的先驗(yàn)值獲取將直接影響圖像去噪的性能。目前在實(shí)際應(yīng)用過(guò)程中大部分憑借經(jīng)驗(yàn)對(duì)這些信息進(jìn)行設(shè)置和調(diào)整。Zhou等[9]提出了基于貝塔過(guò)程因素分析(beta process factor analysis，BPFA)的非參數(shù)貝葉斯字典學(xué)習(xí)圖像重建算法，該方法結(jié)合貝葉斯學(xué)習(xí)框架，能自動(dòng)推斷出字典規(guī)模，重構(gòu)誤差及正則化參數(shù)，解決了字典學(xué)習(xí)中參數(shù)選擇問題。

本文將全變分TV引入到圖像去噪重建模型中，提出了一種基于稀疏梯度域非參數(shù)貝葉斯字典學(xué)習(xí)圖像去噪方法?？紤]該模型是多變量耦合且為非凸問題，采用交替迭代優(yōu)化方法將圖像去噪模型中的變量進(jìn)行分離，獲得多個(gè)子問題，經(jīng)過(guò)多次交替迭代求解各個(gè)子問題，獲得較高的圖像質(zhì)量。

1 稀疏表示和字典學(xué)習(xí)

1.1 信號(hào)稀疏表示原理

如果n

(1)

或

(2)

1.2 稀疏梯度域字典學(xué)習(xí)圖像去噪

對(duì)于采集或傳輸自然圖像V，通常包含加性噪聲，該噪聲圖像數(shù)學(xué)上可以表示為

V=I+e

(3)

I表示原始圖像，e表示均值為0，噪聲方差為σ2高斯白噪聲。I在梯度域(總體差分域)一般具有良好的稀疏特性，考慮整個(gè)圖像，尤其對(duì)于高分辨率圖像，直接構(gòu)造字典進(jìn)行圖像去噪，其運(yùn)算代價(jià)非常大。在稀疏采樣條件相同的情況下，信號(hào)在合適字典下的稀疏表示系數(shù)的稀疏性越好，則信號(hào)的重建質(zhì)量越高。本文對(duì)圖像進(jìn)行分塊處理，利用全變分TV對(duì)分塊圖像稀疏變換，建立梯度域稀疏表示的字典學(xué)習(xí)圖像去噪模型

(4)

其中，D表示字典，αl表示所有圖像塊的字典稀疏表示相對(duì)應(yīng)的系數(shù)， Г=[α1,α2,…,αl]，αl非零元素的個(gè)數(shù)不超過(guò)T0，Rl表示對(duì)圖像進(jìn)行塊抽取操作，▽表示分別對(duì)圖像進(jìn)行水平或垂直方向的差分變換，v1正則因子。

(5)

(6)

其中，v2表示正懲罰參數(shù)?？紤]式(5)是一個(gè)多變量耦合問題，難以直接求解。對(duì)于式(5)和式(6)，這里采用交替迭代方法(alternating direction method，ADM)對(duì)其進(jìn)行變量分離，得到Q1、Q2、Q3這3個(gè)不同的子問題。式(5)的解析解可以通過(guò)分別求解這3個(gè)不同的子問題而得到

(7)

(8)

(9)

這里采用最小二乘法對(duì)Q1問題進(jìn)行求解，先對(duì)Q1求導(dǎo)，然后令其導(dǎo)數(shù)為零可得

(10)

對(duì)等式(10)兩邊做傅里葉變換，式(10)可以轉(zhuǎn)化為

(11)

令p=v2/v1， 式(11)可以表示為

(12)

(13)

(2)求解Q2問題：對(duì)梯度圖像ω進(jìn)行更新。

這里采用最小二乘法對(duì)Q2問題進(jìn)行求解，先對(duì)Q2求導(dǎo)，然后令其導(dǎo)數(shù)為零可得

(14)

根據(jù)式(14)求解得

(15)

(16)

(3)求解Q3問題：更新字典D和稀疏表示系數(shù)矩陣αl，l=1,2,…,N

(17)

Q3子問題是一個(gè)典型的字典學(xué)習(xí)問題，其中閾值T0為控制表示圖像塊的稀疏度，傳統(tǒng)的K-SVD字典學(xué)習(xí)方法需預(yù)先設(shè)定T0的大小。本文利用分層BPFA(beta process factor analysis，BPFA)模型字典學(xué)習(xí)算法實(shí)現(xiàn)更新稀疏字典D和稀疏表示系數(shù)矩陣αl，該方法不需事先假定T0的大小和噪聲方差，其層次模型表示如下

(18)

該模型利用Beta過(guò)程作為先驗(yàn)信息，其中⊙表示哈達(dá)瑪向量積。參數(shù)zl由貝塔-伯努利過(guò)程生成，其數(shù)值為0、1，可以有效選擇字典中的原子，不需事先假定圖像塊在字典中的稀疏度。上述模型字典中的原子dk(D=[d1,d2,…,dk,…,dK])、 非零權(quán)重sl、噪聲el分別由高斯分布產(chǎn)生；參數(shù)π服從Beta分布；參數(shù)γs、γe分別服從伽馬分布。Ip(Ik) 表示大小為P×P(K×K) 單位矩陣；a，b，c，d，e，f為超參數(shù)；K為字典原子個(gè)數(shù)。

為了將分層BPFA模型與優(yōu)化的方法聯(lián)系起來(lái)[11,12],分層BPFA模型可以利用后驗(yàn)概率密度函數(shù)的負(fù)對(duì)數(shù)表示

(19)

其中，Θ表示未知模型參數(shù)η={Rlωk+1}l=1,…,N，fBeta-Bern({zl}l=1,…,N;H) 表示Beta-Bernoulli過(guò)程先驗(yàn)信息，H表示模型超參數(shù) (a,b,c,d,e,f)， 采用L2范數(shù)分別約束對(duì)應(yīng)于高斯先驗(yàn)分布的字典原子dk和非零權(quán)重sl，Constant表示常數(shù)。Beta-Bernoulli過(guò)程具有稀疏選擇性，其功能類似 K-SVD 字典學(xué)習(xí)的OMP，但不需事先假定T0的大小。

考慮式(19)整個(gè)模型非常復(fù)雜，模型參數(shù)難以直接求解。本文采用基于蒙特卡洛馬爾科夫鏈(Monte Carlo Markov chain，MCMC)的吉布斯(Gibbs)采樣，模型參數(shù)Θ可以用依次交替迭代方式求解，獲得具有較強(qiáng)稀疏表示能力的字典和稀疏表示系數(shù)。當(dāng)所有未知參數(shù)估計(jì)出來(lái)之后，Rlωk+1可由最大后驗(yàn)(maximum a posteriori，MAP)估計(jì)得到。本文算法的具體步驟見表1。

2 實(shí)驗(yàn)仿真及結(jié)果分析

在本節(jié)中，通過(guò)實(shí)驗(yàn)仿真，有效地分析提出的圖像去噪算法性能。在實(shí)驗(yàn)仿真中，如圖1所示，選用10張不同的灰度圖像作為實(shí)驗(yàn)仿真對(duì)象，仿真實(shí)驗(yàn)在MATLAB R2014a的軟件環(huán)境下完成，硬件條件是英特爾四核CPU，頻率3.30 GHz，內(nèi)存16 GB。分別使用本文算法、GradDLRec算法和DLMRI算法對(duì)含有噪聲的灰度圖像進(jìn)行去噪。其中，DLMRI算法參數(shù)設(shè)置[13]：字典大小P=n=36， 圖像塊大小P1/2=6， 圖像塊重疊抽取步長(zhǎng)r=1，β=(P1/2/r)2=36，λ=140， 圖像塊的個(gè)數(shù)為200×n， 稀疏閾值T0=5； GradDLRec算法參數(shù)設(shè)置與DLMRI算法基本相同，添加參數(shù)λ1=60，v2=3； 本文算法中，除了BPFA字典學(xué)習(xí)模型參數(shù)之外，其它參數(shù)設(shè)置同于GradDLRec算法，提出的方法中的BPFA字典學(xué)習(xí)算法采用10次循環(huán)迭代，同于其它方法的字典學(xué)習(xí)算法循環(huán)迭代次數(shù)。為了獲得良好的圖像去噪效果，分別對(duì)3種整個(gè)算法進(jìn)行10次迭代計(jì)算。本文算法設(shè)置7個(gè)不同的噪聲標(biāo)準(zhǔn)差σ=5、10、15、20、25、50、100，依次仿真，采用峰值信噪比(PSNR)評(píng)價(jià)算法的圖像去噪性能。

表1 稀疏梯度域非參數(shù)貝葉斯字典學(xué)習(xí)圖像去噪算法

圖1 灰度圖像

表2和表3列出了本文算法、GradDLRec算法、DLMRI算法(縱向觀察表格數(shù)據(jù))對(duì)不同圖像去噪結(jié)果。從表2看出，本文算法相較于GradDLRec算法和DLMRI算法有明顯的效果改善。在噪聲標(biāo)準(zhǔn)差σ=5的情況下，本文算法和GradDLRec算法的去噪效果相當(dāng)。在噪聲標(biāo)準(zhǔn)差σ=10、15、20、25、50、100的情況下，本文算法的去噪效果明顯優(yōu)于GradDLRec算法和DLMRI算法。實(shí)驗(yàn)仿真的原始圖像和含噪圖像如圖2所示，圖3和圖4表示采用3種去噪方法得到的去噪圖像。由圖3和圖4可以看出，基于3種算法得到了良好的去噪圖像視覺效果。其中，本文算法取得的視覺效果更好，可以說(shuō)明本文算法在圖像去噪的過(guò)程中，能比較有效地從含噪圖像中保留有用信息，獲得良好的重建圖像。

表2 3種算法在不同圖像和噪聲標(biāo)準(zhǔn)差下的 去噪后峰值信噪比數(shù)據(jù)比較

表3 3種算法在不同圖像和噪聲水平下的 去噪后峰值信噪比數(shù)據(jù)比較

圖2 原始圖像和含噪圖像

圖3 3種算法對(duì)含噪圖像barbara的去噪效果

圖4 3種算法對(duì)含噪圖像house的去噪效果

由于GradDLRec和DLMRI算法采用了K-SVD字典學(xué)習(xí)方法，K-SVD字典學(xué)習(xí)方法需要事先設(shè)定或者采用交叉驗(yàn)證的方式確定正則化參數(shù)、字典規(guī)模、稀疏度等信息。考慮在實(shí)際應(yīng)用過(guò)程中，這些參數(shù)難以進(jìn)行設(shè)置和調(diào)整。根據(jù)非參數(shù)貝葉斯字典學(xué)習(xí)模型具有良好的推斷能力，通過(guò)引入先驗(yàn)信息并結(jié)合貝葉斯框架，能夠自動(dòng)推斷出正則化參數(shù)、字典規(guī)模和重建誤差，有效地解決了參數(shù)選擇問題。具體來(lái)說(shuō)，K-SVD字典學(xué)習(xí)方法中有若干個(gè)參數(shù)需要設(shè)置，例如稀疏度(每個(gè)空間塊向量使用的字典原子數(shù))和字典規(guī)模；并且K-SVD字典學(xué)習(xí)方法還需要合理設(shè)置初始值，這些參數(shù)將影響圖像重建的性能。同時(shí)，在有噪聲的情況下,K-SVD方法必須知道噪聲標(biāo)準(zhǔn)差，當(dāng)存在數(shù)據(jù)缺失時(shí)，噪聲標(biāo)準(zhǔn)差難以估計(jì)。一旦K-SVD字典學(xué)習(xí)方法未能設(shè)置適當(dāng)?shù)膮?shù)時(shí),圖像去噪性能會(huì)受到影響。本文使用BPFA字典學(xué)習(xí)方法的一個(gè)顯著優(yōu)點(diǎn)是在學(xué)習(xí)字典時(shí)，該方法可以對(duì)噪聲標(biāo)準(zhǔn)差進(jìn)行推斷；另一方面，BPFA利用Beta-Bernoulli過(guò)程可以自適應(yīng)更新稀疏模式。因此，在參數(shù)不確定的情況下，本文算法的去噪性能更優(yōu)。

3 收斂性分析

圖5和圖6表示3種算法對(duì)噪聲標(biāo)準(zhǔn)差σ=20的barbara圖像去噪結(jié)果，即峰值信噪比PSNR和高頻誤差規(guī)范HFEN(通過(guò)LoG濾波分別得到的去噪圖像和原始圖像誤差結(jié)果的L2范數(shù)來(lái)計(jì)算)隨迭代次數(shù)的變化關(guān)系。由本文采用這種變化關(guān)系度量本文算法、GradDLRec、DLMRI方法的收斂性。從圖中可以看出，這3種方法都具有良好的收斂性能，其中本文算法去噪效果更好。

圖5 3種算法的PSNR曲線

圖6 3種算法的HFEN曲線

具體來(lái)說(shuō)，本文算法在更新變量之間交替進(jìn)行求解子問題，更新梯度圖像和稀疏表示子問題都是基于最小二乘方法。交替迭代求解子問題導(dǎo)致目標(biāo)函數(shù)單調(diào)減少，且目標(biāo)函數(shù)是非負(fù)的，最終可以收斂。從圖中仿真結(jié)果可以看出，隨著迭代次數(shù)的增加，去噪圖像Ik+1是收斂的。

4 結(jié)束語(yǔ)

針對(duì)K-SVD字典學(xué)習(xí)方法難以解決參數(shù)自動(dòng)選擇問題，并且考慮自然圖像在總體差分域有較好的稀疏特性，本文將全變分TV引入到圖像去噪重建模型中，提出了一種基于稀疏梯度域非參數(shù)貝葉斯字典學(xué)習(xí)圖像去噪方法。由于該模型為多變量耦合問題，利用Bregman和ADM算法分解為3個(gè)子問題，然后分別求解這3個(gè)子問題實(shí)現(xiàn)圖像去噪。仿真實(shí)驗(yàn)結(jié)果表明，基于稀疏梯度域非參數(shù)貝葉斯字典學(xué)習(xí)圖像去噪方法相比GradDLRec和DLMRI算法有更好的圖像去噪效果，得到了更高分辨率和清晰度的圖像。由于采用了Gibbs采樣更新字典、系數(shù)和相關(guān)參數(shù)，執(zhí)行整個(gè)算法時(shí)間較長(zhǎng)。在接下來(lái)的工作中，我們將考慮圖像的結(jié)構(gòu)信息，利用小波+TV與聚類方法對(duì)圖像塊進(jìn)行稀疏和分類處理，期望實(shí)現(xiàn)有效提高整個(gè)算法的執(zhí)行效率和模型參數(shù)的最優(yōu)選擇。