
(1)
式中:{φj}j∈J為空間中的一個框架,A,B為框架的界。
在上述定義中,若A=B則稱框架{φj}j∈J為空間中的緊框架。一般稱{φj}j∈J為該框架的合成表示模型,即
f=[φ1φ2…]α
(2)
式中:α為空間元素f在框架{φj}j∈J下的合成系數(shù)。同時,該框架還有一對應的分析表示模型Ψ,且滿足Ψ=[φ1φ2…]H。
1.2 盲復原模型的建立
針對稀疏l1范數(shù)的圖像復原,令Φ=[φ1φ2…],在上述框架含義的引導下,可以采用如下的兩種基本形式:
合成模型:
(3)
分析模型:
(4)
從兩種模型的表達式可以看出,相對于分析模型,式(3)的估計過程是以圖像在合成算子Φ中的表示系數(shù)α為變量而進行的。當采用規(guī)范正交框架時,分析模型與合成模型是等價的。在一般情況下,規(guī)范正交框架不如冗余框架更能有效的表示圖像豐富的幾何結構。文獻[20-21]指出,在采用冗余框架的條件下,分析模型比合成模型具有更好的收斂性能和更高的重構精度。對于模糊核,若將其看作一幅圖像,其反應的是成像設備的運動軌跡。一般情況下,這樣的軌跡呈現(xiàn)較細且平滑連續(xù)的特性。從圖像處理的角度出發(fā),軌跡的細特性映射為圖像的稀疏性,即僅有少量像素有較大值而其他像素值接近于0。根據(jù)這一思想,文獻[10]中利用梯度圖像,通過約束核稀疏性的對其進行估計,但該方法并未體現(xiàn)對于平滑連續(xù)的約束。鑒于上述觀點的分析,在核稀疏的基礎上,進一步利用核的一階梯度同時約束其平滑特性。綜上,針對盲復原問題,本文建立如下的綜合迭代優(yōu)化模型:
(5)

(6)
在上述優(yōu)化模型中,式(6)在基于梯度圖像的前提下同時約束了核的稀疏性及其一階微分的平滑特性,獲得更準確估計核。而對于式(5)的優(yōu)化問題,研究表明:一方面可以靈活的適用于多種表示基函數(shù);另一方面,在基于緊框架的重構問題中, 相比合成模型,分析模型能獲得幾何意義下的收斂解和更低的優(yōu)化目標函數(shù)值[22]。同時,結合式(6)中的模糊核估計表達式,使得式(5)中的優(yōu)化變?yōu)橐粋€非盲的復原過程。此外,在迭代過程中,式(5)、(6)中的優(yōu)化結果又可相互促進,進一步提高復原質(zhì)量。但值得注意的是,傳統(tǒng)的用于合成模型的快速數(shù)值算法不能直接應用于式(5)中的分析模型的求解,本文將在下面一節(jié)詳細討論數(shù)值算法的設計。
2 復原模型的數(shù)值算法
2.1 關于xJ的優(yōu)化子問題
對于式(7)中基于分析模型的復原優(yōu)化函數(shù),一個重要的挑戰(zhàn)就是如何設計有效的數(shù)值算法對其進行求解。內(nèi)點法是解決此類問題的有效方法之一,但隨著信號維度的增長,其收斂的速度會迅速的下降,不適于解決像圖像復原這樣的大規(guī)模問題。對于合成模型,已有很多現(xiàn)成有效的數(shù)值求解算法,如基于代理函數(shù)思想的迭代收縮閾值算法(iterative shrinkage thresolding alogrithm, ISTA)和快速迭代收縮閾值算法(fast iterative shrinkage thresholding alogrithm, FISTA)等,這些算法在收斂速度和收斂精度方面達到了較好的平衡,適合于大規(guī)模問題[23]。但在式(7)的分析優(yōu)化模型中,‖Ψx‖1是一具有不可微性和不可分離性的凸函數(shù),這使得ISTA和FISTA方法不能直接應用于式(7)中的復原模型。在此分析基礎之上,本文提出一種基于Moreau envelope函數(shù)的交替迭代數(shù)值算法,利用Moreau envelope函數(shù)對不可微項的近似平滑作用,使模型得以有效的求解。
Moreau envelope函數(shù)可以作為優(yōu)化函數(shù)中不可微項的一種平滑近似,進而得到問題的近似解[24]。為了方便后續(xù)的說明,這里引入近似算子符號。對于凸函數(shù)g(x),稱如下的表達式為g(x)的近似算子:
(7)
設函數(shù):
(8)
則gμ(x)稱為函數(shù)g(x)的Moreau envelope函數(shù),且gμ(x)具有以下性質(zhì):

2)gμ(x)是一個連續(xù)可微函數(shù),且它的梯度gμ(x)的Lipschitz指數(shù)為1/μ。
由上述兩條性質(zhì)可以得出,gμ(x)的梯度為
gμ(x)=(x-proxμg(x))
(9)
鑒于上面的分析,由于式(7)中的第二項是具有不可微和不可分離性質(zhì)的凸函數(shù),使得FISTA方法不能直接應用于模型的求解。因此可以利用Moreauenvelope函數(shù)的連續(xù)可微性質(zhì)作為該凸函數(shù)的一種近似平滑替代,使梯度計算成為可能,并結合式(9)中的近似算子消除不可分離性對模型求解的影響。令g(Ψx)=‖Ψx‖1,將式(7)改寫為如下平滑近似形式:
(10)

f(x)=(hJ+1)H?(hJ+1?x-y)
(11)
設
xJ+1=argmin{H(x)≡f(x)+gμ(Ψx)}
(12)
由于式(12)中的兩個函數(shù)f(x)和gμ(Ψx)均為可微函數(shù)并聯(lián)合式(9)、(11), 給出下面的雙迭代變量的更新策略,f(pk+1)、gμ(xk)分別為
f(pk+1)=(hJ+1)H?(hJ+1?pk+1-y)
(13)
(14)


(15)
則式(16)可改寫為
gμ(Ψxk)=ΨH(Ψxk-Sμ(Ψxk))
(16)

xk+1=argmin(x:H(x=qk),H(x=xk))
(17)
式中:LH表示函數(shù)H(x)的Lipschitz指數(shù),式(19)表示xk+1取qk或xk中令H(x)較小的那一個。這里,迭代參量pk+1的更新表達式為

(18)

(19)
此外,文獻[24]還指出,當μ較大時能夠給gμ(x)的求解帶來一個較好的初值。而同時,隨著μ的減小,又能夠使得優(yōu)化函數(shù)的精度和收斂速度獲得一定的提升。因此本文中將采用遞減式的μ取值,加快算法的收斂速度并提高收斂精度。
2.2 模糊核估計算法
為了對式(8)進行求解,這里給出一種基于交替迭代的核估計算法。引入輔助變量l,將式(8)改寫為如下的形式:

(20)
利用交替優(yōu)化技術[25],式(22)可以拆分為下面的兩個優(yōu)化子問題:

(21)
(22)
ak+1=ak+(lk+1-hk+1)
(23)
由于式(21)為二階可微函數(shù),可以對其求導并令導數(shù)等于0,得
((xJ)T?(xJ)+ρ+2ηT)hk+1=
(xJ)y+ρ(lk+ak)
(24)
再利用快速傅里葉變換可得
hk+1=
(25)


(26)式中sgn(·)為標準符號函數(shù)。
由于模糊核尺寸有限,且其值一般不會很大。因此,為了使算法簡潔,模糊核的估計只進行兩次迭代即可。
綜上所述,將本文所提出的算法總結如下。
初始化:觀測圖像y,p1=x0,μ=μ0,J=0,Jmax,kmax;
外層循環(huán):
2)內(nèi)層循環(huán):令k=0,t0=1;
① 利用式(17)計算proxμg(Ψxk);


⑤xk+1=argmin(x:H(x=qk),H(x=xk));

若k=kmax,轉至3);否則,k=k+1;
3)令xJ+1=xk+1,μ=μ/2;
4)若J=Jmax,輸出復原圖像xJ+1;否則,J=J+1。
3 實驗結果與分析
為了驗證算法的有效性,本文進行了模糊圖像復原的對比實驗。對比方法包括基于全變差的FISTA方法,文獻[10]中基于字典學習的盲復原方法,文獻[15]中基于聯(lián)合統(tǒng)計模型的復原方法以及本文所提算法。FISTA方法中模糊核的估計采用文獻[26]中的方法,文獻[15]中的模糊核估計采用文獻[11]中的估計方法。實驗平臺為Matlab7.10.0, Intel? CoreTM2 Duo CPU, 4GB RAM, Windows操作系統(tǒng)。實驗圖像分別采用一組256×256的標準歸一化測試圖像(如圖1所示)和一幅真實模糊圖像。對于真實的彩色圖像,本文算法中將其由RGB變換到YUV空間,僅對亮度分量Y實施算法,而保持色度分量U和V不變,然后變換回RGB空間,獲得復原圖像。實驗中采用Shearlet作為本文算法的緊框架[27],其相比傳統(tǒng)的Wavelet、Curvelet等具有更好的圖像稀疏表示能力且計算復雜度低,易于實現(xiàn)。考慮篇幅的有限,這里對標準歸一化圖像采用兩種最經(jīng)典的模糊方式,分別為均勻模糊和尺度參數(shù)為2的高斯模糊,且核尺寸均為7×7。噪聲類型為加性高斯白噪聲,噪聲標準差為0.01。關于迭代參數(shù)設置,本文通過實驗發(fā)現(xiàn),隨著迭代次數(shù)的增加,初始階段復原效果明顯提升,而后緩慢趨于收斂。因此,考慮到計算量與計算時間的因素,這里設置內(nèi)、外兩層循環(huán)的迭代次數(shù)分別為kmax=30,Jmax=5,達到幾乎收斂的效果。同時,本文采用峰值信噪比(peak signal to noise rate, PSNR)和結構相似性度量 (structural similarity index measurement, SSIM)作為客觀評價指標[28]。PSNR越大說明復原圖像與原始圖像在全部像素上的絕對差之和越小,一定程度上宏觀的體現(xiàn)了與原始圖像在平均數(shù)值上的接近程度, 而SSIM指標越大則說明復原圖像與原始圖像在細節(jié)及紋理結構方面具有更高的相似性??紤]篇幅的有限,這里僅給出Cameraman在高斯模糊核下的復原結果(如圖2),真實模糊圖像的核估計以及視覺復原效果如圖3所示。圖4為Cameraman圖像以外循環(huán)變量k為橫軸的PSNR變化圖。表1~4中分別記錄了標準歸一化測試圖像在不同模糊核下的PSNR和SSIM指標。

圖1 標準測試圖像Fig.1 Benchmark test images

圖2 Cameraman復原結果Fig.2 Restoration results of Cameraman

圖3 真實模糊圖像復原結果Fig.3 Restoration results of real blurry image

圖4 Cameraman PSNR迭代變化圖Fig.4 PSNR plot versus iteration of Cameraman

CameramanParrotHarbourBridgeFISTA24.7624.9523.8222.59文獻[9]26.0828.1727.0625.16文獻[11]30.0132.1230.1730.79本文算法29.8731.9629.9530.41

表2 高斯模糊下標準測試圖像的SSIM值

表3 均勻模糊下標準測試圖像的PSNR值

表4 均勻模糊下標準測試圖像的SSIM值
從圖2對比結果中可以看出,F(xiàn)ISTA方法在平滑區(qū)域的復原效果較好,但部分位置出現(xiàn)了本不應有的斑駁和階梯效應,這主要是由于全變差約束的分片光滑假設前提所導致,丟失了不連續(xù)邊緣處的部分細節(jié)信息,相比緊框架下的稀疏模型,其先驗約束缺乏一般性?;陔x散余弦變換(discrete cosine transformation, DCT)字典的文獻[10]中方法的復原圖像有微弱振鈴現(xiàn)象產(chǎn)生,這主要是由于通用DCT字典不能針對性的有效表示某一個體圖像。此外,該算法中采用的基于l1范數(shù)的合成模型相比本文分析模型,在目標函數(shù)收斂精度方面的性能較差,細節(jié)的復原能力仍有待進一步提高。文獻[15]和本文算法相比前兩種方法,復原性能有顯著提高。盡管文獻[15]獲得了最優(yōu)的PSNR值,但該值僅能從宏觀上衡量復原結果與原始圖像在數(shù)值上的的接近程度,而并不能反應局部的細節(jié)視覺效果??梢钥闯?,該方法在非局部和全變差的聯(lián)合約束下,使圖像過分的平滑,細節(jié)紋理不夠突出,因此在SSIM指標方面略低于本文算法。從真實模糊圖像復原效果還可以看出,文獻[11]盡管較前兩種方法在復原性能方面有所提升,但由于估計核并未呈現(xiàn)出細而平滑的特性,使得復原圖像仍未獲得理想的視覺效果。相比傳統(tǒng)算法,本文所提出的方法,一方面由于采用了分析模型,在提高目標函數(shù)收斂精度方面具有一定的優(yōu)勢,更好的復原了圖像中的細節(jié)信息(如圖2中框圖部分所示),具有更為銳化的邊緣并能夠呈現(xiàn)清晰的圖像。另一方面,由于同時引入對卷積核稀疏性與一階平滑特性的約束,優(yōu)化了估計性能。從圖3中可以看出,白亮點描述了核的實際形狀,本文方法所估計的模糊核占據(jù)較小的核尺寸面積(即細特征),較好的體現(xiàn)了核的稀疏性。此外,其呈現(xiàn)的線狀分段連續(xù)形狀也有效的反應了其平滑連續(xù)性。在客觀評價指標方面,本文方法的PSNR與文獻[15]中的方法接近,相比FISTA和文獻[10]中的方法體現(xiàn)了一定的優(yōu)越性。從圖4的PSNR迭代變化圖中還可以看出本文算法隨迭代次數(shù)的增加,PSNR呈現(xiàn)升高趨勢且具有較好的收斂性能。在SSIM結構化指標中,本文方法在四種對比方法中展現(xiàn)出相對優(yōu)勢(即有較好的視覺復原效果)。同時,在獲得估計核后,各復原算法相當于進行非盲復原。因此,好的復原結果也進一步影響著下一次迭代中的核估計精度,達到相互促進的目的,這也從另一方面說明了本文算法中緊框架分析模型的非盲復原能力。
4 結論
1)針對模糊圖像的盲復原問題,本文提出一種緊框架下的盲復原方法,該方法通過迭代的進行模糊核估計與非盲圖像復原,不僅能夠提高在圖像細節(jié)信息復原方面的能力,還獲得了較好的客觀評價指標。對于高斯和均勻兩種模糊模型,本文在PSNR指標方面盡管均未取得最優(yōu)值但與最優(yōu)值較為接近,這可能由于本文方法在個別像素點上的復原值差異較大,但視覺上并未影響總體效果。
2)在方法上,區(qū)別于傳統(tǒng)的復原方法,本文分別建立了針對模糊核估計以及緊框架分析非盲復原的有效約束模型。一方面,為了實現(xiàn)準確的核估計,提出同時約束模糊核的稀疏性及其一階微分的平滑特性。另一方面,為了解決分析模型的不可微性和不可分離性,借鑒FISTA算法,提出一種平滑項替代的迭代數(shù)值算法,得到分析模型的近似解。該方法的建立也為模糊圖像的盲復原領域提供了新的模型和解決思路,其研究成果可應用于各類成像設備的預處理模塊。
此外,通過對本文中迭代優(yōu)化模型的修改,還可將該方法擴展應用于如圖像超分辨、圖像壓縮傳感等其他圖像反問題中,這些問題將在以后的研究中進行深入的討論。
[1]QU Xiaobo, MAYZEL Maxim, CAI Jianfeng, et al. Accelerated NMR spectroscopy with low-rank reconstruction[J]. Angewandte chemie international edition, 2015, 54(3): 852-854.
[2]ZHAO YongQiang, YANG Jingxiang. Hyperspectral image denoising via sparse representation and low-rank constraint[J]. IEEE transactions on geoscience and remote sensing, 2015, 53(1): 296-308.
[3]QI Shan, JIA Jiaya, ASEEM A. High-quality motion deblurring from a single image[J]. ACM transactions on graphics, 2008, 27(3): 1-10.
[4]李一兵,付強,張靜. 水下模糊圖像參數(shù)估計復原方法[J]. 吉林大學學報:工學版, 2013,43(4): 1133-1138.
LI Yibing, FU Qiang, ZHANG Jing. Underwater blurry image restoration based on parameter estimation[J]. Journal of Jilin University: engineering and technology edition, 2013,43(4): 1133-1138.
[5]JIA Jiaya. Single image motion deblurring using transparency[C]∥IEEE Computer Society Conference on Computer Vision and Pattern Recognition, Minneapolis(CVPR), USA, 2007: 1-8.
[6]DONG Yiqiu, HINTERMULLER M, MONSERRAT R C. Automated regularization parameter selection in multi-scale total variation models for image restoration[J]. Journal of mathematical imaging and vision, 2011, 40(1): 82-104.
[7]LI Jie, YUAN Qiangqiang, SHEN Huanfeng, et al. Hyperspectral image recovery employing a multidimensional nonlocal total variation model [J]. Signal processing, 2015, 111: 230-248.
[8]CHANG Huibin, ZHANG Xiaoqun, TAI Xuecheng, et al. Domain decomposition methods for nonlocal total variation image restoration[J]. Journal of scientific computing, 2014, 60 (1): 79-100.
[9]CAI Jianfeng, JI Hui, LIU Chaoqiang, et al. Blind motion deblurring from a single image using sparse approximation[C]∥IEEE Conference on Computer Vision and Pattern Recognition (CVPR), Florida USA, 2009: 104-111.
[10]ZHANG Haichao, YANG Jianchao, ZHANG Yanning, et al. Sparse representation based blind image deblurring[C]∥IEEE International Conference on Multimedia and Expo (ICME) Barcelona, 2011: 1-6.
[11]KRISHNAN D, TAY T, FERGUS R. Blind deconvolution using a normalized sparsity measure[C]∥IEEE Conference on Computer Vision and Pattern Recognition (CVPR), Colorado, 2011: 233-240.
[12]ZHANG Haichao, WIPF D, ZHANG Yanning. Multi-image blind deblurring using a coupled adaptive sparse prior[C]∥IEEE Conference on Computer Vision and Pattern Recognition. Portland, 2013: 1051-1058.
[13]DONG Weisheng, ZHANG Lei, SHI Guangming, et al. Nonlocally centralized sparse representation for image restoration[J]. IEEE transactions on image processing, 2013, 22(4): 1620-1630.
[14]HANIF M, SEGHOUANE A K. Blind Image deblurring using non-negative sparse approximation[C]∥IEEE Conference on Image Processing. Pairs, 2014: 4042-4046.
[15]ZHANG Jian, ZHAO Debin, XIONG Ruiqin,et al. Image restoration using joint statistical modeling in space-transform domain [J]. IEEE transactions on circuits and systems for video technology, 2014, 24(6): 915-928.
[16]LIU Jun, HUANG Tingzhu, SELESNICK I W, et al. Image restoration using total variation with overlapping group sparsity[J]. Information sciences, 2015, 295(20): 232-246.
[17]唐述, 謝顯中. 多正則化混合約束的模糊圖像盲復原方法[J].電子與信息學報, 2015, 3(4): 770-776.TANG Shu, XIE Xianzhong. Multi-regularization hybrid constraints method for blind image restoration[J]. Journal of electronics & information technology, 2015, 3(4): 770-776.
[18]ELAD M, MILANFAR P, ROBINSTEIN R. Analysis versus synthesis in signal priors[J]. Inverse problem, 2007, 23(3): 947-957.
[19]DUFFIN R J, SCHAEFFER A C. A class of nonharmonic fourier series[J]. Transactions of the american mathematical society, 1952, 72: 341-366.
[20]SELESNICK I W, FIGUEIREDO M A T. Signal restoration with overcomplete wavelet transforms: comparison of analysis and synthesis priors[C]∥Wavelets XIII of SPIE. San Diego, 2009,7446: 1-15.
[21]MAJUMDA A, WARD R K. On the choice of compressed sensing priors and sparsifying transforms for MR image reconstruction: an experimental study[J]. Signal processing: image communication, 2012, 27(9): 1035-1048.
[22]CANDEX E J, ELDAR Y, NEEDELL C D, et al. Compressed sensing with coherent and redundant dictionaries[J]. Appl comput harmon anal, 2011, 31(1): 59-73.
[23]BECK A, TEBOULLE M. Fast gradient-based algorithms for constrained total variation image denoising and deblurring problems[J]. IEEE transactions on image processing, 2009, 18(11): 2419-2434.
[24]MOUREA J J. Proximitéet dualité dans un espace Hilbertien[J]. Bull soc math france, 1965, 93: 273-299.
[25]BOYD S, PARIKH N, CHU E, et al. Distributed optimization and statistical learning via the alternating direction method of multipliers[J]. Foundations and trends in machine learning, 2010 3(1) :1-122.
[26]CHO Sunghyun, LEE Seungyong. Fast motion deblurring[J]. ACM transactions on graphics, 2009, 28(5): 1120-1132.
[27]LIM W Q. The discrete shearlet transform: a new directional transform and compactly supported shearlet frames[J]. IEEE transactions on image processing, 2010, 19(5): 1166-1180
[28]REHMAN A, WANG Z. Reduced-reference image quality assessment by structural similarity estimation[J]. IEEE transactions on image processing, 2012, 21(8): 3378-3389.
本文引用格式:
李驁, 雷天鳴, 陳德運, 等. 緊框架分析模型下的模糊圖像盲復原[J]. 哈爾濱工程大學學報, 2017, 38(6): 931-938.
LI Ao, LEI Tianming, CHEN Deyun, et al. Blind image restoration based on analysis model under tight frame[J]. Journal of Harbin Engineering University, 2017, 38(6): 931-938.
Blind image restoration based on analysis model under tight frame
LI Ao, LEI Tianming, CHEN Deyun, SUN Guanglu
(Postdoctoral Station of Computer Science and Technology, Harbin University of Science and Technology, Harbin 150080, China)
In blind image restoration based on the sparse representation model, kernel estimation and the selection of the sparse model are two significant factors that affect the blind restoration. Considering the imperfections of the conventional blind restoration method based on sparse representation, we propose a novel blind restoration method based on the tight-frame analytical model. This novel method divides the blind restoration problem into two iterative subproblems: kernel estimation based on the gradient image, and non-blind image restoration based on the tight-frame model. In the kernel estimation, we propose constraining simultaneously the sparsity of the kernel and the smoothness of the first-order differential of the kernel, which further improves the accuracy of the kernel estimation. In the non-blind image restoration subproblem, we propose a numerical algorithm based on the Moreau envelope function, which can solve the nondifferentiability and inseparability of the tight-frame restoration model. The experimental results show that the proposed method is superior to the conventional methods in relation to both the recovery of image detail and the objective assessment indicators.
blind image restoration; tight frame; kernel estimation; iterative optimization; regularization; moreau envelope function
2016-03-02. 網(wǎng)絡出版日期:2017-04-24.
國家自然科學基金項目(61501147);中國博士后基金項目(2016M601438);黑龍江省自然科學基金項目(F2015040);黑龍江省博士后基金項目(LBH-Z15099).
李驁(1986-), 男, 講師, 博士.
李驁,E-mail: liao_hrbust@126.com.
10.11990/jheu.201603003
http://www.cnki.net/kcms/detail/23.1390.u.20170424.1841.002.html
TN911.7
A
1006-7043(2017)06-0931-08