• 
    

    
    

      99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

      基于深度學(xué)習(xí)與結(jié)構(gòu)磁共振成像的抑郁癥輔助診斷

      2021-08-09 06:13:46付常洋王瑜肖洪兵邢素霞
      智能系統(tǒng)學(xué)報(bào) 2021年3期
      關(guān)鍵詞:準(zhǔn)確率卷積分類

      付常洋,王瑜,肖洪兵,邢素霞

      (北京工商大學(xué) 食品安全大數(shù)據(jù)技術(shù)北京市重點(diǎn)實(shí)驗(yàn)室,北京 100048)

      抑郁癥(major depressive disorder, MDD)是一種非常常見的精神類疾病,對(duì)患者的生活質(zhì)量和身體健康有著顯著的危害。據(jù)世界衛(wèi)生組織統(tǒng)計(jì),目前,全球有超3億人患有抑郁癥[1],抑郁癥患者的自殘、自殺等行為對(duì)患者及其家屬造成的痛苦、對(duì)社會(huì)造成的損失不容忽視。抑郁癥的臨床診斷主要依據(jù)精神疾病診斷手冊,缺乏定量的生理指標(biāo),目前常用的診斷標(biāo)準(zhǔn)有《國際疾病分類》第10版(ICD-10)[2]和美國《精神障礙診斷與統(tǒng)計(jì)手冊》第4版 (DSM-IV)[3],但這種方式過于依賴醫(yī)生的主觀判斷,正確診斷率低,延誤了最佳治療時(shí)間,導(dǎo)致病情遷延或加重。因此,尋找一個(gè)客觀且有效的診斷方法,例如根據(jù)常見的腦部醫(yī)學(xué)影像來診斷抑郁癥的方法,是非常必要的。

      結(jié)構(gòu)磁共振成像(structural magnetic resonance imaging, sMRI)[4]是當(dāng)下流行的醫(yī)學(xué)成像方式,具有無創(chuàng)、對(duì)比度高等優(yōu)勢,廣泛用于抑郁癥的診斷研究[5-7]。隨著人工智能和大數(shù)據(jù)時(shí)代的到來,深度學(xué)習(xí)[8-10]作為人工智能領(lǐng)域的核心技術(shù),與傳統(tǒng)算法相比,在圖像領(lǐng)域取得了突破性的成績[11-12]。因此,越來越多的學(xué)者將深度學(xué)習(xí)方法應(yīng)用到醫(yī)療圖像領(lǐng)域的研究課題中[13-15]。

      深度卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural networks, CNN)通過使用反向傳播算法來調(diào)整其內(nèi)部參數(shù),疊加了多層神經(jīng)元,用來發(fā)現(xiàn)大數(shù)據(jù)集中更深層次的特征。文獻(xiàn)[16]表明,網(wǎng)絡(luò)層數(shù)對(duì)網(wǎng)絡(luò)的最終性能的影響巨大,越深層的網(wǎng)絡(luò)往往越能提高其泛化能力。CNN網(wǎng)絡(luò)的發(fā)展也符合這一規(guī)律,自AlexNet[11]的7層發(fā)展到了VGG[17]的16層,甚至19層,后來發(fā)展到GoogLeNet[18]的22層。但隨著層數(shù)的增加,訓(xùn)練網(wǎng)絡(luò)所需的計(jì)算能力和時(shí)間成本也隨之增加,而且一味地增加層數(shù),并不總是能夠提升網(wǎng)絡(luò)性能,網(wǎng)絡(luò)達(dá)到一定深度后再加深,反而會(huì)導(dǎo)致網(wǎng)絡(luò)收斂速度變慢,分類準(zhǔn)確率也變差。排除數(shù)據(jù)集過小帶來的模型過擬合等問題,分類準(zhǔn)確率會(huì)在增加網(wǎng)絡(luò)層數(shù)的過程中逐漸趨于飽和,繼續(xù)加深網(wǎng)絡(luò)會(huì)出現(xiàn)準(zhǔn)確率下降的現(xiàn)象,這種現(xiàn)象被稱為退化問題,網(wǎng)絡(luò)層數(shù)越深,網(wǎng)絡(luò)的分類性能退化越快。

      針對(duì)這一問題,He等[19]在2016年提出了殘差網(wǎng)絡(luò)(residual network, ResNet),通過引入殘差模塊,建立相鄰層之間的短路連接,有助于訓(xùn)練過程中梯度的反向傳播,將網(wǎng)絡(luò)層數(shù)做到了152層以上,一定程度上解決了梯度消失和網(wǎng)絡(luò)退化問題。

      基于此,Huang等[20]在2017年提出了密集連接網(wǎng)絡(luò)(densely connected convolutional networks,DenseNet),其基本思路與ResNet一致,但是該網(wǎng)絡(luò)建立了前面所有層與后面層的連接,實(shí)現(xiàn)特征重用,在參數(shù)量和計(jì)算成本均比ResNet少的情況下,DenseNet在多個(gè)公開大型數(shù)據(jù)集上表現(xiàn)出了比ResNet更優(yōu)的性能。

      雖然深度學(xué)習(xí)在計(jì)算機(jī)視覺領(lǐng)域大放異彩,但目前的深度學(xué)習(xí)網(wǎng)絡(luò),大多只能處理如ImageNet等二維的自然圖像數(shù)據(jù),對(duì)于三維數(shù)據(jù)涉及較少,如何將深度學(xué)習(xí)網(wǎng)絡(luò)應(yīng)用在抑郁癥結(jié)構(gòu)磁共振影像的分類任務(wù)上,成為一個(gè)研究熱點(diǎn)和難點(diǎn)。基于此,本文將DenseNet網(wǎng)絡(luò)模型進(jìn)行三維(three dimensional, 3D)化,并引入遷移學(xué)習(xí)方法,進(jìn)一步優(yōu)化了實(shí)驗(yàn)結(jié)果。本文主要貢獻(xiàn)概括如下:

      1)提出一種三維密集連接網(wǎng)絡(luò)(3D-Dense Net),將密集連接的思想擴(kuò)展到三維,以充分挖掘三維sMRI數(shù)據(jù)中的層間結(jié)構(gòu)信息,實(shí)現(xiàn)對(duì)抑郁癥患者與健康對(duì)照者sMRI數(shù)據(jù)的準(zhǔn)確分類;

      2)引入遷移學(xué)習(xí),精心設(shè)計(jì)了一個(gè)遷移學(xué)習(xí)工作流程,用于目標(biāo)領(lǐng)域同類型、同部位的數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練,然后將模型遷移至抑郁癥sMRI數(shù)據(jù),并進(jìn)行再訓(xùn)練,提高了分類精度,證明了遷移學(xué)習(xí)的有效性,通過與其他遷移學(xué)習(xí)方法做對(duì)比,證明了提出的遷移學(xué)習(xí)方法的優(yōu)越性;

      3)與多組先進(jìn)的二維、三維網(wǎng)絡(luò)進(jìn)行對(duì)比實(shí)驗(yàn),證明了提出的3D-DenseNet網(wǎng)絡(luò)在抑郁癥sMRI數(shù)據(jù)分類任務(wù)中具有優(yōu)越性和有效性。

      1 實(shí)驗(yàn)準(zhǔn)備

      1.1 數(shù)據(jù)庫

      本研究共包含174名被試者,其中99名重癥抑郁癥患者和75名年齡、性別、受教育程度匹配的健康對(duì)照者(heathy control, HC)。重癥抑郁癥患者是從首都醫(yī)科大學(xué)附屬安定醫(yī)院招募的,健康對(duì)照組是從報(bào)紙廣告上招募的。所有重癥抑郁癥患者都達(dá)到了美國精神障礙診斷與統(tǒng)計(jì)學(xué)手冊第4版(DSM-IV)對(duì)抑郁癥的診斷標(biāo)準(zhǔn),所有正常人都通過了DSM-IV的非病人版結(jié)構(gòu)化臨床訪談面試,在實(shí)驗(yàn)前,所有被試者都簽署了知情同意書。2組被試者的臨床統(tǒng)計(jì)學(xué)分析結(jié)果如表1所示。

      表1 被試者統(tǒng)計(jì)學(xué)分析結(jié)果Table 1 Statistical analysis results of subjects

      表1中:P為MDD和HC的雙樣本T檢驗(yàn)值;HAMD表示漢密爾頓憂郁量表(Hamilton depression scale);HAMA表示漢密爾頓焦慮量表(Hamilton anxiety scale)。

      1.2 sMRI數(shù)據(jù)采集

      所有sMRI圖像都是在北京師范大學(xué)認(rèn)知神經(jīng)科學(xué)與學(xué)習(xí)國家重點(diǎn)實(shí)驗(yàn)室用一臺(tái)Tesla3.0掃描所得,掃描時(shí)采用三維磁化快速梯度回波成像(magnetization prepared rapid gradient echo,MPRAGE),掃描參數(shù)如下:射頻重復(fù)時(shí)間(repetition time, TR) = 2 530 ms,回波時(shí)間(echo time, TE) =3.39 ms,翻轉(zhuǎn)角度(flip angle, FA) = 7°,成像視野(field of view, FOV) = 256 mm×256 mm,體素大小為1 mm×1 mm×1.33 mm,層厚為1.33 mm,掃描層數(shù)為128。

      1.3 數(shù)據(jù)預(yù)處理

      sMRI數(shù)據(jù)預(yù)處理工作使用基于Matlab的SPM12工具包[21]實(shí)現(xiàn)??紤]到灰質(zhì)區(qū)域?qū)σ钟舭Y診斷的重要影響[22],本文只用灰質(zhì)部分進(jìn)行實(shí)驗(yàn)。預(yù)處理主要內(nèi)容包括:去除非腦組織、空間標(biāo)準(zhǔn)化、灰質(zhì)分割、空間平滑。處理后每個(gè)被試者sMRI數(shù)據(jù)的尺寸為121×145×121體素。數(shù)據(jù)預(yù)處理流程如圖1所示。

      圖1 數(shù)據(jù)預(yù)處理流程Fig.1 Data preprocessing flowchart

      2 研究方法

      2.1 三維化DenseNet

      盡管DenseNet在很多2D自然圖片數(shù)據(jù)集上取得了卓越的成績,但在醫(yī)學(xué)圖像領(lǐng)域卻鮮有建樹,原因是2D網(wǎng)絡(luò)中的卷積核、池化核等都是二維的矩陣,只能在二維平面圖像的高度H和寬度W兩個(gè)方向上移動(dòng),自然也只能提取二維的特征。而sMRI等醫(yī)學(xué)圖像數(shù)據(jù)大多是三維的立體數(shù)據(jù),使用2D網(wǎng)絡(luò)處理時(shí)只能將三維圖像分層輸入,或?qū)⑵渲幸粋€(gè)維度當(dāng)作channel維度,但2種方法都不能很好地利用數(shù)據(jù)的層間結(jié)構(gòu)信息。基于此,本文將2D網(wǎng)絡(luò)中的卷積核、池化核等過濾器增加一個(gè)深度維度D,擴(kuò)展為三維矩陣,這樣過濾器就可以在sMRI數(shù)據(jù)所有3個(gè)方向(H、W、D)上移動(dòng),也就可以充分挖掘出數(shù)據(jù)的空間信息,每個(gè)過濾器的輸出同樣是一個(gè)3D的數(shù)據(jù)。若其中一個(gè)三維卷積核的尺寸為k×k×k×channel,數(shù)量為n,輸入數(shù)據(jù)尺寸為h×w×d,由于本文使用的sMRI數(shù)據(jù)類似灰度圖,channel維度為1,故該卷積核的輸出尺寸為

      通過類似的方法可以擴(kuò)展DenseNet中的池化層、批歸一化層,從而構(gòu)建出一個(gè)三維密集連接網(wǎng)絡(luò)(3D-DenseNet),以更好地從三維sMRI數(shù)據(jù)中提取有代表性的特征,并提高抑郁癥的sMRI數(shù)據(jù)分類的精度。

      一個(gè)121層3D-DenseNet結(jié)構(gòu)如圖2所示。其中3D-DenseBlock 1包含6層,3D-DenseBlock 2包含12層,3D-DenseBlock 3包含24層,3DDenseBlock 4包含16層。每一層都包含一個(gè)1×1×1三維卷積層(3D-Conv)、一個(gè)3×3×3三維卷積層,2個(gè)批量歸一化(batch normalization, BN)[23]層,以及2個(gè)線性整流函數(shù)(ReLU)[24]層。一個(gè)6層的3D-DenseBlock結(jié)構(gòu)如圖3所示。

      圖2 3D-DenseNet的121層網(wǎng)絡(luò)結(jié)構(gòu)Fig.2 Structure of 3D-DenseNet 121

      圖3 一個(gè)6層3D-DenseBlock結(jié)構(gòu)Fig.3 A 6-layer 3D-DenseBlock

      每一層的密集連接(dense connectivity)都可表示為

      式中:xl表示第l層接收的特征圖(feature map);[x0x1···xl?1]表示將第0,1,···,l?1層產(chǎn)生的特征圖按channel維度連接在一起;Hl(·) 表示復(fù)合函數(shù),由3個(gè)連續(xù)操作組成,即批量歸一化操作、線性整流函數(shù)激活,以及3×3×3的三維卷積運(yùn)算。如果每個(gè)Hl(·) 函數(shù)產(chǎn)生k個(gè)特征圖,那么第l層輸入的特征圖總數(shù)為k0+k×(l?1), 其中k0代表輸入層的通道數(shù)。

      式(2)中的密集連接操作在特征圖大小不一致時(shí)是不可行的,所以在每2個(gè)3D-DenseBlock之間都加入一個(gè)過渡層3D-Transition,包含一個(gè)BN層、一個(gè)ReLU層、一個(gè)1×1×1卷積層,以及一個(gè)均勻池化層(AvgPool),用來進(jìn)行特征圖降維。最后,一個(gè)3D-DenseBlock后面連接一個(gè)ReLU層、一個(gè)AvgPool層、一個(gè)全連接層(FC),以及一個(gè)分類器層(Softmax),用來實(shí)現(xiàn)最后的特征降維和分類。

      一個(gè)121層的3D-DensNet網(wǎng)絡(luò)的具體參數(shù)和架構(gòu)如表2所示,其中每一個(gè)Conv都代表一個(gè)BN-ReLU-Conv順序流程。

      表2 3D-DenseNet 121網(wǎng)絡(luò)架構(gòu)Table 2 Parameters and architecture of the 3D-DenseNet 121

      2.2 遷移學(xué)習(xí)

      卷積神經(jīng)網(wǎng)絡(luò)使用反向傳播算法進(jìn)行訓(xùn)練,其中每一層的參數(shù)在迭代中不斷更新,以最小化特定的損失函數(shù)值。通常,訓(xùn)練之前會(huì)用一組隨機(jī)值將參數(shù)初始化。值得注意的是,網(wǎng)絡(luò)層數(shù)的增加會(huì)導(dǎo)致網(wǎng)絡(luò)參數(shù)量的增加,這就需要更多的訓(xùn)練數(shù)據(jù),以使反向傳播算法更好地收斂,如果數(shù)據(jù)量不夠,很容易造成過擬合,使算法陷入局部最小值,導(dǎo)致分類性能欠佳。為解決這個(gè)問題,一個(gè)可行的方法是采取遷移學(xué)習(xí)。在遷移學(xué)習(xí)中,網(wǎng)絡(luò)參數(shù)的初始值并不是隨機(jī)的,而是從已經(jīng)在更大數(shù)據(jù)集上訓(xùn)練過的網(wǎng)絡(luò)模型中復(fù)制的,隨后再對(duì)網(wǎng)絡(luò)進(jìn)行微調(diào)。

      由于醫(yī)學(xué)影像數(shù)據(jù)普遍數(shù)據(jù)量不大且難以獲取,很多學(xué)者探索將遷移學(xué)習(xí)引入醫(yī)學(xué)圖像領(lǐng)域。Tajbakhsh等[25]深入地討論和比較了在醫(yī)學(xué)圖像分析領(lǐng)域中,從零開始的訓(xùn)練網(wǎng)絡(luò)和引入遷移學(xué)習(xí),并進(jìn)行微調(diào)的結(jié)果。研究表明,在大多數(shù)情況下,引入遷移學(xué)習(xí)并進(jìn)行微調(diào),比從零開始的訓(xùn)練網(wǎng)絡(luò)效果更好。目前為止,遷移學(xué)習(xí)已被應(yīng)用于阿爾茲海默癥[26]、腦瘤[27]和肺結(jié)節(jié)[28]等疾病的醫(yī)學(xué)圖像分類或分割研究當(dāng)中,并表現(xiàn)出了優(yōu)秀的效果。據(jù)我們所知,目前沒有任何關(guān)于抑郁癥醫(yī)學(xué)圖像分類的研究使用遷移學(xué)習(xí),但所有上述研究都證明,將遷移學(xué)習(xí)應(yīng)用于醫(yī)學(xué)成像領(lǐng)域具有巨大的價(jià)值,并且與從無到有的訓(xùn)練相比,在訓(xùn)練數(shù)據(jù)集較小的情況下,遷移學(xué)習(xí)的引入有可能提高抑郁癥sMRI圖像分類的精度。

      Chen等[29]收集了包括肝臟、心臟等8種不同部位的3D醫(yī)學(xué)圖像分割數(shù)據(jù)集,在訓(xùn)練過程中,8組數(shù)據(jù)共享編碼器,并分別使用8個(gè)解碼器,最后只遷移共用的編碼器部分用于肺結(jié)節(jié)CT圖像的分類研究。受Chen等[29]的啟發(fā),本文設(shè)計(jì)了一個(gè)新穎的三維sMRI數(shù)據(jù)遷移學(xué)習(xí)框架。在數(shù)據(jù)選擇方面,只收集同一部位(大腦)和同一類型(sMRI)的數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練,并只考慮分類任務(wù)。在這3個(gè)限制條件下,選擇使用開源的老年癡呆癥數(shù)據(jù)集ADNI(https://ida.loni.usc.edu)作為預(yù)訓(xùn)練數(shù)據(jù)。為了實(shí)現(xiàn)本文的遷移學(xué)習(xí),設(shè)計(jì)了1個(gè)3步處理工作流,如圖4所示。

      圖4 遷移學(xué)習(xí)架構(gòu)Fig.4 Framework of the proposed transfer learning

      1)從ADNI數(shù)據(jù)庫中挑選出合適的sMRI數(shù)據(jù),包含阿茲海默患者(alzheimer’s disease,AD)、輕度認(rèn)知障礙(mild cognitive impairment,MCI),以及健康對(duì)照組(heathy control, HC)3類,共656個(gè)被試者,并用與本文中相同的數(shù)據(jù)預(yù)處理步驟,對(duì)挑選出來的數(shù)據(jù)進(jìn)行預(yù)處理;

      2)用所選數(shù)據(jù)訓(xùn)練1個(gè)三分類的3D-DenseNet網(wǎng)絡(luò),讓網(wǎng)絡(luò)學(xué)習(xí)sMRI數(shù)據(jù)的特征;

      3)將訓(xùn)練好的網(wǎng)絡(luò)模型中的主干網(wǎng)絡(luò)(圖4中紅框部分)部分遷移到抑郁癥sMRI數(shù)據(jù)的分類任務(wù)中,并添加二分類層,使用本文的抑郁癥sMRI數(shù)據(jù)繼續(xù)進(jìn)行訓(xùn)練,以增強(qiáng)網(wǎng)絡(luò)的分類性能。

      之所以只從腦部sMRI數(shù)據(jù)集中選擇數(shù)據(jù)作預(yù)訓(xùn)練,是因?yàn)槿绻x擇的源域和目標(biāo)域的相似度太小,很可能會(huì)導(dǎo)致負(fù)遷移,從而導(dǎo)致性能下降,即分類準(zhǔn)確率不提高反而降低。相反,2個(gè)數(shù)據(jù)集越相似,2個(gè)數(shù)據(jù)集的高層特征就越相似,這將產(chǎn)生更好的代表性特征和更適合目標(biāo)域的預(yù)訓(xùn)練模型,以提高目標(biāo)域任務(wù)的分類性能。為了進(jìn)行對(duì)比實(shí)驗(yàn),在第3步中用相同的過程和相同的數(shù)據(jù)訓(xùn)練三維化的ResNet。此外,本文使用較小的學(xué)習(xí)速率對(duì)遷移過后的主干網(wǎng)絡(luò)進(jìn)行微調(diào),用較大的學(xué)習(xí)速率來訓(xùn)練未經(jīng)過預(yù)訓(xùn)練的分類層,以使傳輸?shù)木W(wǎng)絡(luò)能夠從MDD數(shù)據(jù)中提取一些新的特征,提高分類性能。

      3 實(shí)驗(yàn)與結(jié)果分析

      為了驗(yàn)證本文提出方法的有效性,本文精心設(shè)計(jì)了一系列實(shí)驗(yàn),探討不同深度學(xué)習(xí)網(wǎng)絡(luò)以及三維化相應(yīng)網(wǎng)絡(luò)對(duì)分類精度的影響,驗(yàn)證所設(shè)計(jì)的遷移學(xué)習(xí)流程的有效性和優(yōu)越性。

      3.1 模型評(píng)價(jià)指標(biāo)

      本文分類問題為二分類問題,也就是將樣本分成MDD患者和HC兩類,規(guī)定MDD患者為正類(positive),HC為負(fù)類(negative),分類算法對(duì)測試數(shù)據(jù)集的預(yù)測有正確或錯(cuò)誤之分,具體包括將正類預(yù)測為正類數(shù)(true positive, TP)、將正類預(yù)測為負(fù)類數(shù)(false negative, FN)、將負(fù)類預(yù)測為正類數(shù)(false positive, FP)、將負(fù)類預(yù)測為負(fù)類數(shù)(true negative, TN)4種情況。針對(duì)研究課題的特殊性,本文選取了正確率和召回率2個(gè)指標(biāo)來評(píng)價(jià)模型的分類性能。正確率定義為Accuracy = (TP +TN)/(TP + FN + FP + TN),反映了分類器對(duì)所有樣本的判定能力;召回率定義為Recall = TP/(TP+FN),反映了被正確判定的MDD患者占患者總數(shù)的比重。

      3.2 訓(xùn)練設(shè)置

      所有網(wǎng)絡(luò)在訓(xùn)練時(shí)都使用交叉熵?fù)p失函數(shù)與Adam優(yōu)化算法[30],weight decay值設(shè)置為0.001,將所有數(shù)據(jù)按80%、10%、10%的比例劃分訓(xùn)練、驗(yàn)證、測試集,并采用五折交叉驗(yàn)證,epoch值設(shè)置為100。由于GPU內(nèi)存容量有限,在訓(xùn)練2D網(wǎng)絡(luò)時(shí)batch size設(shè)置為64,在訓(xùn)練3D網(wǎng)絡(luò)時(shí)batch size設(shè)置為8。當(dāng)不使用遷移學(xué)習(xí)時(shí)學(xué)習(xí)率初始值設(shè)置為0.01,當(dāng)使用遷移學(xué)習(xí)時(shí),未遷移部分的初始學(xué)習(xí)率保持原有的0.01,遷移部分的初始學(xué)習(xí)率部分設(shè)為原有的0.001倍,當(dāng)驗(yàn)證集loss值連續(xù)10個(gè)epoch不下降時(shí),學(xué)習(xí)率變?yōu)樵瓉淼?.1倍。所有訓(xùn)練都是在一臺(tái)帶有一塊NVIDIA TITAN Xp GPU、四核Intel Xeon E3-1 230 v5 3.41GHz處理器的win10專業(yè)版系統(tǒng)服務(wù)器上進(jìn)行的,編程語言為Python3.6,深度學(xué)習(xí)框架為PyTorch1.0。

      3.3 不同深度的2D網(wǎng)絡(luò)對(duì)比實(shí)驗(yàn)

      在進(jìn)行2D網(wǎng)絡(luò)實(shí)驗(yàn)時(shí),將預(yù)處理過后的sMRI數(shù)據(jù)分層輸入網(wǎng)絡(luò),輸入尺寸為121×145,并采用投票算法,即對(duì)于每個(gè)被試者,測試結(jié)果為正類的層數(shù)超過一半判定為正類,否則判定為負(fù)類。通過對(duì)比幾個(gè)不同深度的網(wǎng)絡(luò),以證明網(wǎng)絡(luò)深度對(duì)分類性能的影響和DenseNet的相對(duì)優(yōu)越性,實(shí)驗(yàn)結(jié)果見表3。

      表3 2D網(wǎng)絡(luò)實(shí)驗(yàn)結(jié)果Table 3 2D network experimental results

      從表3中的數(shù)據(jù)可以看出,隨著網(wǎng)絡(luò)層數(shù)的增多,網(wǎng)絡(luò)的分類準(zhǔn)確率和召回率大體上逐步升高,這表明網(wǎng)絡(luò)的加深可以提供更好的非線性表達(dá)能力,學(xué)習(xí)更加復(fù)雜的知識(shí),從而可以擬合更加復(fù)雜的特征輸入;而DenseNet在層數(shù)大致相同的情況下比ResNet表現(xiàn)得更好,表現(xiàn)最好的DenseNet264達(dá)到了69.96%的準(zhǔn)確率和76.32%的召回率,這表明DenseNet中的密集連接思想在本研究中優(yōu)于ResNet的殘差思想,故接下來的實(shí)驗(yàn)主要以DenseNet為主。

      3.4 3D網(wǎng)絡(luò)與2D網(wǎng)絡(luò)的對(duì)比實(shí)驗(yàn)

      接下來,將部分2D網(wǎng)絡(luò)三維化,并進(jìn)行了對(duì)比實(shí)驗(yàn),以證明3D網(wǎng)絡(luò)的優(yōu)越性,實(shí)驗(yàn)結(jié)果見表4。

      表4 2D網(wǎng)絡(luò)與3D網(wǎng)絡(luò)實(shí)驗(yàn)結(jié)果對(duì)比Table 4 Comparison of experimental results between 2D and 3D networks

      從表4中的數(shù)據(jù)可以看出,對(duì)網(wǎng)絡(luò)進(jìn)行三維化操作后,分類準(zhǔn)確率和召回率有了顯著提升,例如3D-DenseNet264的分類準(zhǔn)確率比二維的DenseNet264提升了7.46%;而層數(shù)相似的3DDenseNet要比3D-ResNet效果好,例如3DDenseNet201的分類精度為76.53%,3D-ResNet 200的分類精度為74.81%。這表明抑郁癥sMRI數(shù)據(jù)的層間信息非常豐富,而本文提出的三維密集連接網(wǎng)絡(luò)3D-DenseNet恰恰能夠挖掘出這些有效信息,相比一般的DenseNet以及其他傳統(tǒng)的二維網(wǎng)絡(luò)提供更多的有效特征,從而提高分類性能。

      3.5 遷移學(xué)習(xí)對(duì)比實(shí)驗(yàn)

      本文將3D-DenseNet系列中表現(xiàn)最好的3DDenseNet264用ADNI數(shù)據(jù)庫做了預(yù)訓(xùn)練,并進(jìn)行遷移學(xué)習(xí)(以下稱ADNI-Transfer),與直接用抑郁癥數(shù)據(jù)訓(xùn)練(以下稱None)的實(shí)驗(yàn)結(jié)果進(jìn)行對(duì)比。因?yàn)镃hen等[29]使用的遷移學(xué)習(xí)方法(以下稱Med3D-Transfer)只在3D-ResNet系列網(wǎng)絡(luò)做了實(shí)驗(yàn),并且只釋放出了預(yù)訓(xùn)練好的模型,并未提供訓(xùn)練數(shù)據(jù)的獲取渠道,故為了證明本文提出的ADNI-Transfer方法的優(yōu)越性,將3D-ResNet系列中表現(xiàn)最好的3D-ResNet200也做了ADNI-Transfer,并與進(jìn)行Med3D-Transfer的3D-ResNet200網(wǎng)絡(luò)作對(duì)比,實(shí)驗(yàn)結(jié)果見表5。

      表5 遷移學(xué)習(xí)實(shí)驗(yàn)結(jié)果對(duì)比Table 5 Comparison of experimental results of transfer learning

      從表5可以看出,引入遷移學(xué)習(xí)后,網(wǎng)絡(luò)的分類性能有了顯著提升,例如3D-DenseNet264在經(jīng)過ADNI-Transfer操作之后,分類準(zhǔn)確率提升了6.95%,這說明遷移學(xué)習(xí)能夠?qū)⑵渌I(lǐng)域的知識(shí)引入到抑郁癥sMRI數(shù)據(jù)的分類任務(wù)中,一定程度上解決了樣本不充足問題,從而加快模型訓(xùn)練的效率,提升模型最終的泛化能力。相比于Med3DTransfer方法,本文提出的ADNI-Transfer遷移學(xué)習(xí)方法在準(zhǔn)確率和召回率上均有更優(yōu)表現(xiàn),例如進(jìn)行ADNI-Transfer的3D-ResNet200網(wǎng)絡(luò)的分類準(zhǔn)確率要比進(jìn)行Med3D-Transfer的3D-ResNet200網(wǎng)絡(luò)高出2.83%,召回率高出3.54%,這說明網(wǎng)絡(luò)從與目標(biāo)領(lǐng)域數(shù)據(jù)相同部位、相同類型的源領(lǐng)域數(shù)據(jù)中提取信息對(duì)目標(biāo)任務(wù)更有價(jià)值,從而這樣的做法也更能提高目標(biāo)任務(wù)的評(píng)價(jià)指標(biāo),也就是更能夠提升抑郁癥sMRI數(shù)據(jù)的分類精準(zhǔn)確率和召回率。由本文提出的3D-DenseNet264網(wǎng)絡(luò)和ADNI-Transfer遷移學(xué)習(xí)方法組合后得到的實(shí)驗(yàn)結(jié)果明顯優(yōu)于其他方法,證明了本文提出方法的有效性和優(yōu)越性。

      4 結(jié)束語

      本文提出一種三維密集連接深度學(xué)習(xí)網(wǎng)絡(luò)3D-DenseNet,并首次將它用于三維抑郁癥sMRI數(shù)據(jù)的分類研究中。通過對(duì)DenseNet進(jìn)行三維化改進(jìn),使之能夠更好地提取三維信息,在與多個(gè)計(jì)算機(jī)視覺領(lǐng)域先進(jìn)的網(wǎng)絡(luò)對(duì)比實(shí)驗(yàn)中發(fā)現(xiàn),本文設(shè)計(jì)的網(wǎng)絡(luò)均表現(xiàn)出更優(yōu)的性能,并且隨著網(wǎng)絡(luò)深度的增加,網(wǎng)絡(luò)的分類性能也隨之提升。除此之外,引入遷移學(xué)習(xí),針對(duì)目標(biāo)任務(wù)數(shù)據(jù)的特殊性,精心設(shè)計(jì)了一個(gè)遷移學(xué)習(xí)工作流程ADNI-Transfer,并與當(dāng)下領(lǐng)域內(nèi)流行的遷移學(xué)習(xí)方法作了比較,實(shí)驗(yàn)結(jié)果證明了本文提出的遷移學(xué)習(xí)方法的有效性和優(yōu)越性。同前沿方法相比,本文提出的方法能夠有效提高抑郁癥與健康對(duì)照者的sMRI數(shù)據(jù)分類準(zhǔn)確率和召回率,繼而輔助醫(yī)生完成診斷,充分驗(yàn)證了提出方法的有效性和可行性,具有重要的研究價(jià)值。

      猜你喜歡
      準(zhǔn)確率卷積分類
      基于3D-Winograd的快速卷積算法設(shè)計(jì)及FPGA實(shí)現(xiàn)
      分類算一算
      乳腺超聲檢查診斷乳腺腫瘤的特異度及準(zhǔn)確率分析
      健康之家(2021年19期)2021-05-23 11:17:39
      不同序列磁共振成像診斷脊柱損傷的臨床準(zhǔn)確率比較探討
      2015—2017 年寧夏各天氣預(yù)報(bào)參考產(chǎn)品質(zhì)量檢驗(yàn)分析
      從濾波器理解卷積
      電子制作(2019年11期)2019-07-04 00:34:38
      分類討論求坐標(biāo)
      高速公路車牌識(shí)別標(biāo)識(shí)站準(zhǔn)確率驗(yàn)證法
      數(shù)據(jù)分析中的分類討論
      基于傅里葉域卷積表示的目標(biāo)跟蹤算法
      九江市| 渭源县| 靖州| 武义县| 民乐县| 从江县| 卢氏县| 博客| 和硕县| 乌拉特前旗| 平武县| 桃园市| 吉安市| 开远市| 合水县| 宕昌县| 车险| 苗栗县| 宜昌市| 蓝田县| 乌鲁木齐市| 开阳县| 廊坊市| 梨树县| 应城市| 安庆市| 揭东县| 东方市| 斗六市| 宁阳县| 额济纳旗| 元朗区| 襄城县| 永城市| 昆山市| 河南省| 乌兰察布市| 巨野县| 志丹县| 东乡县| 洪湖市|