基于極端學(xué)習(xí)機(jī)的Demons圖像配準(zhǔn)

高弘治,閆德勤,楊 伊,劉彩鳳

(遼寧師范大學(xué) 計(jì)算機(jī)與信息技術(shù)學(xué)院,遼寧 大連 116081)

基于極端學(xué)習(xí)機(jī)的Demons圖像配準(zhǔn)

高弘治,閆德勤,楊 伊,劉彩鳳

(遼寧師范大學(xué) 計(jì)算機(jī)與信息技術(shù)學(xué)院,遼寧 大連 116081)

醫(yī)學(xué)圖像配準(zhǔn)是醫(yī)學(xué)診斷中的重要研究?jī)?nèi)容，配準(zhǔn)精度和速度也是眾多研究的核心。圖像配準(zhǔn)過程可設(shè)想為是一種神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程，基于這種想法，引入極端學(xué)習(xí)機(jī)(ELM)這一系統(tǒng)對(duì)圖像完成配準(zhǔn)。該方法速度快、魯棒性高，最重要的是它能不依賴梯度信息，從而很好地避開了點(diǎn)周圍間的互相干擾，考慮到其學(xué)習(xí)過程的準(zhǔn)確性，引入魯棒激活函數(shù)學(xué)習(xí)機(jī)，以更好地提高配準(zhǔn)學(xué)習(xí)系統(tǒng)的準(zhǔn)確度，并提高其穩(wěn)定性。

圖像配準(zhǔn)；極端學(xué)習(xí)機(jī)；魯棒激活函數(shù)

0 引言

近年來，隨著醫(yī)學(xué)診斷越趨可視化，對(duì)于醫(yī)學(xué)圖像的研究也越發(fā)必要，其中圖像配準(zhǔn)是醫(yī)學(xué)診斷和引導(dǎo)治療臨床應(yīng)用的重要研究方向，不斷出現(xiàn)的研究成果表明該領(lǐng)域已成為研究熱點(diǎn)[1-3]，其研究按照?qǐng)D像形變性質(zhì)主要分為3個(gè)方面，即彈性模型、粘流體模型、微分同胚非線性圖像配準(zhǔn)。彈性模型[4-5]由Broit首次提出，該模型將源圖像到目標(biāo)圖像的形變過程建模為一個(gè)彈性形變的物理過程。這個(gè)物理過程由內(nèi)力和外力兩種力來控制，當(dāng)作用于彈性體上的外力和內(nèi)力達(dá)到平衡時(shí)形變過程結(jié)束。彈性體的形變可以由Navier線性方程來描述。由于彈性變換模型一般適用于組織形變較小的情況，不適用于大形變。近年來，有關(guān)學(xué)者結(jié)合黎曼彈性能量和微分流形的理論把線性彈性模型進(jìn)行改進(jìn)以適于非線性彈性形變的配準(zhǔn)[6-7]。粘流體模型由Christensen等[8]提出。該模型允許更大程度的形變，特別適合不同個(gè)體之間(Inter-subject)包括圖譜之間的配準(zhǔn)。流體形變可以由Navier-Stokes偏微方程表示。但對(duì)于約束較強(qiáng)的組織不太適合，該模型的計(jì)算效率不高[9]。微分同胚非線性配準(zhǔn)方法中基于Demons[10]系列算法以其深刻的物理和數(shù)學(xué)模型基礎(chǔ)及計(jì)算效率優(yōu)勢(shì)備受人們關(guān)注[3-5]。微分同胚非剛性配準(zhǔn)[11]應(yīng)用代數(shù)結(jié)構(gòu)實(shí)現(xiàn)靜態(tài)速度場(chǎng)上微分同胚變換[12]所用到的映射具有光滑可逆性且逆映射也是光滑的。其最大特點(diǎn)是保持圖像的拓?fù)浣Y(jié)構(gòu)在配準(zhǔn)前后不發(fā)生改變，因此，它對(duì)大小形變都適用。但是此系列算法在形變過程中依賴梯度，很容易受到不連續(xù)的離群點(diǎn)干擾，而且剛性配準(zhǔn)算法在于用線性剛性方程對(duì)形變位移正則化。盡管其在計(jì)算上是有效的，但是其正則化因子僅僅對(duì)小形變是有效的，且對(duì)于偏離位移是不持續(xù)的?；贒emons模型，較早的有Active Demons[13], 利用對(duì)浮動(dòng)圖像和參考的正力和負(fù)力互相約束實(shí)現(xiàn)配準(zhǔn)；目前研究較廣泛的有Log Demons[14]基于此思想的改進(jìn)算法如iLog Demons[15]; Spectral Demons[16]即一種基于圖像流形特征圖譜的算法；單隱層前饋神經(jīng)網(wǎng)絡(luò)(Single-hidden Layer Feed Forward Networks，SLFNs) 基于仿生學(xué)思想，模擬生物信息處理方法以數(shù)學(xué)優(yōu)化形式實(shí)現(xiàn)信息的提取。模型學(xué)習(xí)能力強(qiáng)，能夠很好地逼近復(fù)雜的非線性函數(shù)，因而廣泛應(yīng)用于分類及預(yù)測(cè)等問題，目前此領(lǐng)域中研究的熱點(diǎn)模型是極端學(xué)習(xí)機(jī)(Extreme Learning Machines-ELM)[17-18]，采用單隱層前饋神經(jīng)網(wǎng)絡(luò)(Single-hidden Layer Feedforward Networks，SLFNs)，利用最小平方回歸優(yōu)化計(jì)算輸出，避免了傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的迭代計(jì)算。由于受到極端學(xué)習(xí)機(jī)的學(xué)習(xí)模型啟發(fā)，在神經(jīng)網(wǎng)絡(luò)(Neural Network)[19-20]研究中發(fā)現(xiàn)，受訓(xùn)樣本通過神經(jīng)網(wǎng)絡(luò)可以對(duì)學(xué)習(xí)樣本進(jìn)行認(rèn)知和自我反饋，這恰恰在思想上與配準(zhǔn)不謀而合，同樣，在醫(yī)學(xué)圖像配準(zhǔn)中也是將待配準(zhǔn)圖像對(duì)參考圖像的學(xué)習(xí)和自身調(diào)節(jié)而達(dá)到一致的過程，那么可以認(rèn)為在圖像上的灰度點(diǎn)是神經(jīng)元，通過構(gòu)造神經(jīng)網(wǎng)絡(luò)而實(shí)現(xiàn)其向參考圖像形變。在實(shí)驗(yàn)中，對(duì)非線性圖像的配準(zhǔn)往往要用到圖像間的最優(yōu)相似性測(cè)度實(shí)施監(jiān)督，而這也是配準(zhǔn)的一個(gè)重要準(zhǔn)則，而對(duì)于臨床應(yīng)用，形變點(diǎn)對(duì)點(diǎn)的位移映射必須要用高斯平滑，使之平滑配準(zhǔn)，這無形中對(duì)圖像的原始信息也是一種浪費(fèi)。為了避免提取圖像信息，同時(shí)避免過多地依賴梯度運(yùn)算，提出魯棒激活函數(shù)圖像配準(zhǔn)學(xué)習(xí)機(jī)。該方法具有很強(qiáng)的魯棒性，且不過多依賴圖像周邊信息，利用神經(jīng)中的學(xué)習(xí)和記憶實(shí)現(xiàn)圖像信息最大程度的保留。但是，此方法還在雛形階段，其中有很多缺點(diǎn)和不足，比如算法容易產(chǎn)生像素點(diǎn)離群和脫離情況，因?yàn)槭菍?duì)圖像進(jìn)行訓(xùn)練映射而不是精準(zhǔn)函數(shù)映射，所以其恢復(fù)程度取決于神經(jīng)網(wǎng)絡(luò)的健全性，希望這一方法在今后可以逐漸完善。

1 極端學(xué)習(xí)機(jī)圖像配準(zhǔn)

設(shè)M是浮動(dòng)圖像，T是參考圖像。在配準(zhǔn)中浮動(dòng)圖像向參考圖像形變的過程Demons系列最初的能量函數(shù)構(gòu)造如下：

(1)

第一項(xiàng)是對(duì)圖像像素灰度值的約束，第二項(xiàng)為形變的約束。當(dāng)能量函數(shù)達(dá)到最小時(shí)，配準(zhǔn)過程完畢。根據(jù)此最初想法，SpectralDemons[16]方法對(duì)能量函數(shù)改進(jìn)如下：

(2)

三項(xiàng)為圖譜約束，即在配準(zhǔn)過程中要考慮對(duì)圖像特征圖譜最優(yōu)的形變量。同樣LogDemons系列算法的能量函數(shù)構(gòu)造為：

(3)

對(duì)比發(fā)現(xiàn)，在Log Demons[11]，指數(shù)場(chǎng)exp(u)對(duì)形變要保持空間的微分同胚性。

本文提出的基于學(xué)習(xí)模型的Demons算法的能量函數(shù)為：

(4)

配準(zhǔn)是通過不斷的形變迭代求得圖像的位移量，在此過程中要考慮每次形變是連續(xù)的，并且浮動(dòng)圖像向參考圖像學(xué)習(xí)項(xiàng)約束，故構(gòu)造第三項(xiàng)的約束條件。

(5)

(6)

令隱層像素神經(jīng)元節(jié)點(diǎn)個(gè)數(shù)為L(zhǎng)，上述方程(5)可寫成矩陣形式：HW=T，其中形變隱層輸出矩陣：

(7)

(8)

(9)

式(7)的優(yōu)化模型可通過拉格朗日方法轉(zhuǎn)化為無條件最優(yōu)化問題進(jìn)行求解[3]。通過以上求解，可以得出對(duì)參考圖像的訓(xùn)練模型H和權(quán)值矩陣W，進(jìn)而讓浮動(dòng)圖像神經(jīng)網(wǎng)絡(luò)對(duì)模型進(jìn)行很好的學(xué)習(xí)，實(shí)現(xiàn)浮動(dòng)圖像與參考圖像配準(zhǔn)。

fRAF[1]是本文中所用到的魯棒激活函數(shù)，將Gaussian核函數(shù)中的歐氏距離轉(zhuǎn)化為Cosined 度量，可以避免離群點(diǎn)對(duì)核函數(shù)的影響；同時(shí)fRAF核具有激活函數(shù)的優(yōu)良性質(zhì)，不會(huì)導(dǎo)致像素點(diǎn)隱層輸出矩陣的病態(tài)問題，進(jìn)而能更好地符合圖像配準(zhǔn)的像素神經(jīng)元學(xué)習(xí)過程。

為了更好地保證配準(zhǔn)的準(zhǔn)確度和穩(wěn)定性，本文選取fRAF，其良好的魯棒性使得像素點(diǎn)的離群率大大減小。圖1、圖2是Lena圖像配準(zhǔn)實(shí)驗(yàn)和腦部醫(yī)學(xué)圖像配準(zhǔn)實(shí)驗(yàn)對(duì)激活函數(shù)效能的分析，其中橫坐標(biāo)為像素群體比例，縱坐標(biāo)為學(xué)習(xí)精度。

圖1 Lena實(shí)驗(yàn)中的激活函數(shù)精度分析

圖2 腦部實(shí)驗(yàn)中的激活函數(shù)精度分析

2 實(shí)驗(yàn)及結(jié)果分析

2.1 實(shí)驗(yàn)與分析

第1組實(shí)驗(yàn)：利用形變后的Lena圖像作為未形變圖像(見圖3參考圖像)與浮動(dòng)圖像(見圖4)。不同的配準(zhǔn)結(jié)果如圖5～圖8所示。

圖3 參考圖像 圖4浮動(dòng)圖像

圖5 本文方法配準(zhǔn)后圖像 圖6 Active Demons配準(zhǔn)結(jié)果

圖7 Log Demons配準(zhǔn)結(jié)果 圖8 Spectral Demons配準(zhǔn)結(jié)果

表1 Lena實(shí)驗(yàn)各算法SSD測(cè)度

第2組腦部實(shí)驗(yàn)：實(shí)驗(yàn)的參考圖像如圖9所示，浮動(dòng)圖像如圖10所示，不同的配準(zhǔn)結(jié)果如圖11～圖14所示。

圖9 參考圖像 圖10 浮動(dòng)圖像

圖11 配準(zhǔn)圖像 圖12 Active Demons配準(zhǔn)結(jié)果

圖13 Log Demons配準(zhǔn)結(jié)果 14 Spectral Demons配準(zhǔn)結(jié)果

表2 腦部實(shí)驗(yàn)各算法SSD測(cè)度

算法名稱計(jì)算后的Squareddifference計(jì)算前的Squareddifference本文提出方法22．1579288．6278Log?demons149．2658288．6278SpectralDemons124．7426288．6278ActiveDemons69．3579288．6278

2.2 實(shí)驗(yàn)結(jié)論

從圖5中可以看到配準(zhǔn)的效果是顯而易見的，全局和細(xì)節(jié)的配準(zhǔn)效果都很好，但是實(shí)驗(yàn)很大程度上依賴像素神經(jīng)隱層輸入個(gè)數(shù)，所以選取的參數(shù)L為10 000，但是從實(shí)驗(yàn)結(jié)果還是可以看到配準(zhǔn)圖像上有離群點(diǎn)產(chǎn)生。圖11為本文提出方法對(duì)醫(yī)學(xué)腦部圖像的圖像配準(zhǔn)，中部和輪廓配準(zhǔn)效果很好，也能看到浮動(dòng)圖像腦中部的結(jié)構(gòu)有病變而產(chǎn)生肥大，配準(zhǔn)圖像則對(duì)浮動(dòng)圖像有很好恢復(fù)，但是像素神經(jīng)在訓(xùn)練過程產(chǎn)生輪廓邊緣像素脫離，希望在日后可以對(duì)存在的問題進(jìn)行改進(jìn)和修復(fù)。

[1] S L LIU,L FENG.Robust activation function and its application:semi-superxised kernel extreme learning method[J].Neurocomputing,2014(144):318-328.

[2] P DUPUIS,U GRENANDER.Variational problems on flows of diffeomorphisms for image matching[J]. Quarterly of Applied Mathematics,1998,56(3):587-600.

[3] A SOTIRAS,C DAVATZIKOS.Deformable medical image registration:a survey[J].IEEE Transactions on Medical Imaging,2013,32(7):1153-1190.

[4] C BROIT.Optimal registration of deformed images[D].Philadelphia:University of Pennsylvania,1981.

[5] R BAJSCY,S KOVACIC.Multiresolution elastic matching[J].Computer Vision, Graphics and Image Processing,1989.

[6] X PENNEC,R STEFANESCU.Riemannian elasticity: a statistical regularization framework for non-linear registration[C].In Proc. Medical Image Computing and Computer Assisted Intervention:MICCAI'05,2005：943-950.

[7] J ASHBURNER.A fast dffeomorphic image registration algorithm[J].NeuroImage,2007(38):95-113.

[8] G E CHRISTENSEN,R D RABBITT.Deformable templates using large deformation kinematics[J].IEEE Transactions on Image Processing,1996,5(10):1435-1447.

[9] M C CHIANG.Fluid registration of diffusion tensor images using information theory[J].IEEE Transactions on Medical Imaging,2008,27(4):442-456.

[10] A BRUHN,J WEICERT.Combining the advantages of local and global optical flow methods. International [J].Journal of Computer Vision,2005,61(3):211-231.

[11] T VERCAUTEREN,X PENNEC.Non-parametric diffeomorphic image registration with the demons algorithm[C].In Proc. Medical Image Computing and Computer-Assisted Intervention:MICCAI'07,2007：319-326.

[12] B FISCHER.Curvature based image registration[J].Journal of Mathematical Imaging and Vision,2003(18):81-85.

[13] H WANG.Validation of an accelerated 'demons' algorithm for deformable image registration in radiation therapy[J].Physics in Medicine and Biology,2005,50(12):2887-2905.

[14] X PENNEC,A PERCHANT.Diffeomorphic demons:efficient non-parametric image registration[J]. Neurolmage,2009,45(1):S61-S72.

[15] X PENNEC.iLogDemons:a demons-based registration algorithm for tracking incompressible elastic biological tissues[J].International Journal of Computer Vision，2011(92):92-111.

[16] H LOMBAERT.Spectral Log-Demons:diffeomorphic image registration with very large deformations[J]. International Journal of Computer Vision,2014,107(3):254-271.

[17] G B HUANG,Q Y ZHU.Extreme learningmachine:theory and applications[J]. Neurocomputing,2006,70(1):489-501.

[18] G B HUANG. An insight into extreme learning machines: random neurons, random features and kernels[J].Cognitive Computation,2014(6):376-390.

[19] D E RUMELHAR,G E HINTON Williams.Learning representations by back-propagating errors[J].Nature,1986,323(6088):533-536.

[20] P J WERBOS.The roots of backpropagation:from ordered derivatives to neural networks and political forecasting[J].New York:Wiley,1994.

(責(zé)任編輯：孫 娟)

國家自然科學(xué)基金項(xiàng)目(61373127)

高弘治(1988-)，男，遼寧大連人，遼寧師范大學(xué)計(jì)算機(jī)與信息技術(shù)學(xué)院碩士研究生，研究方向?yàn)槟Ｊ阶R(shí)別、圖像配準(zhǔn)；閆德勤(1962-)，男，遼寧沈陽人，博士，遼寧師范大學(xué)計(jì)算機(jī)與信息技術(shù)學(xué)院教授，研究方向?yàn)槟Ｊ阶R(shí)別、機(jī)器學(xué)習(xí)；楊伊(1992-)，女，遼寧錦州人，遼寧師范大學(xué)計(jì)算機(jī)與信息技術(shù)學(xué)院碩士研究生，研究方向?yàn)槟Ｊ阶R(shí)別、圖像配準(zhǔn)；劉彩鳳(1992-)，女，內(nèi)蒙古豐鎮(zhèn)人，遼寧師范大學(xué)計(jì)算機(jī)與信息技術(shù)學(xué)院碩士研究生，研究方向?yàn)槟Ｊ阶R(shí)別、圖像配準(zhǔn)。

10.11907/rjdk.162601

TP317.4

A

1672-7800(2017)003-0159-04