基于遷移學(xué)習(xí)的腫瘤病理學(xué)數(shù)據(jù)分析研究

王晨，王一博，陶子勛，付昂揚，曹玥琦

摘要：為解決癌癥的診斷問題，提高診斷的效率與準確率，增強診斷的可靠性，運用了TensorFlow搭建訓(xùn)練基于卷積神經(jīng)網(wǎng)絡(luò)的癌癥分類模型，基于VGG16架構(gòu)，采用深度單類分類算法，使用遷移學(xué)習(xí)，采集正常細胞病理學(xué)數(shù)據(jù)，來訓(xùn)練出可以識別癌變數(shù)據(jù)的模型，從而精準自動地將正常細胞與腫瘤病理學(xué)數(shù)據(jù)分類。結(jié)果表明建立的基于遷移學(xué)習(xí)的分類模型可以很好地幫助病理學(xué)家檢測癌癥，縮短診斷時間。

關(guān)鍵詞：卷積神經(jīng)網(wǎng)絡(luò);遷移學(xué)習(xí);DOC算法;圖像分類;VGG16模型

中圖分類號：TP391? ? ? 文獻標(biāo)識碼：A

文章編號：1009-3044（2021）34-0099-03

伴隨著人類社會高速發(fā)展的同時，環(huán)境的破壞大大提高了惡性腫瘤的發(fā)病率，癌癥的防治形勢仍然需要大眾廣泛的努力。癌癥發(fā)現(xiàn)得越晚，治愈概率越小，同時，組織病理學(xué)圖像在臨床分析中會耗費醫(yī)生大量的時間和精力，而且存在判斷錯誤的現(xiàn)象，所以癌癥的及時發(fā)現(xiàn)仍是全世界的難題。而利用計算機輔助設(shè)計（CAD）[1]自動處理病理學(xué)圖像不僅可以提高診斷效率，還可以提供更為準確的診斷結(jié)果。深度學(xué)習(xí)自發(fā)展以來，已被運用于多個領(lǐng)域，也使得醫(yī)學(xué)影像分析有了新的突破。1999年，Golub等人利用基因芯片技術(shù)和機器學(xué)習(xí)將急性白血病進行分類[2]，使得機器學(xué)習(xí)與醫(yī)學(xué)影像緊密聯(lián)系，在機器學(xué)習(xí)的范疇內(nèi)，腫瘤數(shù)據(jù)分類也變?yōu)榱搜芯繜衢T課題之一。應(yīng)用于病理學(xué)圖像分析的深度學(xué)習(xí)網(wǎng)絡(luò)結(jié)構(gòu)有深度置信網(wǎng)絡(luò)（DBN）、卷積神經(jīng)網(wǎng)絡(luò)（CNN）、降噪自動編碼器（DAE）等[3]。在現(xiàn)階段，由于資源的限制，腫瘤數(shù)據(jù)集的樣本量較小，為了解決特征選擇算法只能在各自數(shù)據(jù)集操作的局限性，F(xiàn)akoor等人提出了將無監(jiān)督學(xué)習(xí)和深度學(xué)習(xí)結(jié)合在一起的方法，利用稀疏自編碼器作為框架，使分類器更有效運用于多個腫瘤數(shù)據(jù)集。獲得高質(zhì)量模型保險做法是增加模型深度或?qū)挾?，但這樣又會增加模型的復(fù)雜度并且有可能造成過擬合。Inception V3模型[4]將卷積核分解降維，節(jié)約了大量參數(shù)，加速運算并減輕了過擬合，同時增加了非線性擴展模型表達能力。在醫(yī)學(xué)領(lǐng)域，深度學(xué)習(xí)已經(jīng)發(fā)揮了重大的作用，但隨著要處理的數(shù)據(jù)量越來越大，構(gòu)建更加具有高效率、魯棒性的分類模型依然是需要研究的內(nèi)容。而且使用大量的標(biāo)簽數(shù)據(jù)訓(xùn)練才會表現(xiàn)良好的監(jiān)督學(xué)習(xí)，這在數(shù)據(jù)采集方面是較為困難的問題。在深度學(xué)習(xí)的基礎(chǔ)上使用遷移學(xué)習(xí)的方法，可以直接利用正常細胞圖像數(shù)據(jù)集建立分類模型，實現(xiàn)兩種圖像的分離[5]。這不僅解決了使用不同數(shù)據(jù)集存在的數(shù)據(jù)分布差異、標(biāo)注數(shù)據(jù)過期的問題，還使得分類模型更適用于現(xiàn)代醫(yī)學(xué)環(huán)境，保證新的任務(wù)上的模型精度。

1相關(guān)理論

1.1卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)（CNN）不同于一般的神經(jīng)網(wǎng)絡(luò)的是，它將每一個隱藏節(jié)點只與圖像的某個特定部分相連接，從而在卷積層用來提取特征時減少參數(shù)訓(xùn)練的數(shù)量[6]。并且通過卷積核的權(quán)值共享，可以減少參數(shù)的數(shù)量。在卷積層的線性卷積操作完成后，使用激活函數(shù)增加非線性變換，從而使該模型學(xué)習(xí)到非線性的變換。幾種激活函數(shù)如sigmoid函數(shù)、ReLU函數(shù)、softmax函數(shù)、tanh函數(shù)等。CNN主要包括數(shù)據(jù)輸入層，卷積層，激勵層，池化層和全連接層。

由于輸入的數(shù)據(jù)存在尺寸過大、類型不符合等問題，需要預(yù)處理輸入前的數(shù)據(jù)。常見的數(shù)據(jù)預(yù)處理的方式包括：均值化處理（將輸入數(shù)據(jù)的每個特征減去其均值）、格式轉(zhuǎn)換（使原始數(shù)據(jù)轉(zhuǎn)為符合模型訓(xùn)練的格式）、降維（數(shù)據(jù)集的維度發(fā)生改變，將高維數(shù)據(jù)集投影到達低維坐標(biāo)軸）等。通過數(shù)據(jù)預(yù)處理可以減少神經(jīng)網(wǎng)絡(luò)訓(xùn)練中的等待時間，提高模型訓(xùn)練的準確性和效率。

卷積計算層是CNN的重點，先將整個圖片分割成多個具有重復(fù)成分的區(qū)域，不斷計算各個部分的值，從而達到增強原始數(shù)據(jù)的特征值，減少噪聲的目的。在每一層中使用相同的卷積核，保證了一個神經(jīng)元提取一個特征，多個神經(jīng)元提取不同的特征。在CNN中，計算是通過對輸入的數(shù)據(jù)與濾波器（帶固定值的矩陣）做內(nèi)積來提取數(shù)據(jù)的特定信息。每計算完一個部分的權(quán)重后，數(shù)據(jù)窗口移動至下個區(qū)域，直到計算完全部的圖像信息。設(shè)定計算過程中的若干參數(shù)能夠獲取不同的卷積神經(jīng)網(wǎng)絡(luò)，參數(shù)包括：深度（濾波器個數(shù)，決定處理完的數(shù)據(jù)的厚度），步長（計算過程中窗口一次滑動的長度）與填充值（在原始數(shù)據(jù)外各個維度填充若干個0以保證總長度能整除步長）。

池化層用來降低數(shù)據(jù)維度，待處理的圖像過大，對圖像進行池化，即類似于壓縮的過程，通過一個下采樣方式來調(diào)整圖像的大小。經(jīng)過池化操作后，結(jié)果相比輸入縮小了，而特征并沒有變形，并且在空間范圍內(nèi)做了維度約減，從而使模型能夠抽取更加廣范圍的特征。同時減少了下一層的輸入大小，減少計算量和參數(shù)個數(shù)，在一定程度上防止過擬合。

全連接層在CNN的最后，類似傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，將兩層之間的所有神經(jīng)元連接。全連接層能夠?qū)μ卣鲌D進行分類，將矩陣轉(zhuǎn)化為列向量，完全連接各個輸入。

1.2 VGG16架構(gòu)

在模型的搭建上適用于VGG16和AlexNet網(wǎng)絡(luò)架構(gòu)，通過截取這兩種主干網(wǎng)絡(luò)中的部分卷積層和全連接層來應(yīng)用。該架構(gòu)的網(wǎng)絡(luò)示意圖如圖1所示。

截取的VGG16模型共有13個卷積層，2個全連接層，5個池化層。所有卷積層的卷積核大小都是3×3，用來檢測某一方面的特征，如形狀，顏色，對比度等。CNN層數(shù)的增加使提取的特征更加全面。

VGG16使用最大池化，即選擇特征圖中最大元素進行下采樣，激活層采用修正線性單元（ReLu）激活函數(shù)，將卷積層的計算進行非線性映射，由圖1可知，VGG16全連接層主要是指Fc6和Fc7，用于后期檢測。

AlexNet是一種比VGG16更早提出的典型的CNN，它的網(wǎng)絡(luò)架構(gòu)由5個卷積層，2個全連接層和最后一層的標(biāo)簽層組成。[7]AlexNet和VGG16的主要區(qū)別是：1. VGG16的卷積核大小都是統(tǒng)一的3×3，而AlexNet每一層的卷積核大小并不統(tǒng)一。2.VGG16有16層網(wǎng)絡(luò)，AlexNet只有8層，但相比之下，VGG16需要的迭代次數(shù)更少（迭代器數(shù)量多）。所以VGG16是一個具有更深網(wǎng)絡(luò)、更多參數(shù)、特征提取效果更好的結(jié)構(gòu)。

1.3 深度單類分類（DOC）算法[8]

DOC算法的訓(xùn)練網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示，由兩個CNN組成，分為參考網(wǎng)絡(luò)R和輔助網(wǎng)絡(luò)S，兩類特征提取網(wǎng)絡(luò)的權(quán)重相互捆綁。DOC的網(wǎng)絡(luò)架構(gòu)主要組件和CNN相同。參考網(wǎng)絡(luò)R是預(yù)先訓(xùn)練的網(wǎng)絡(luò)，參考網(wǎng)絡(luò)則是特征提取網(wǎng)絡(luò)的組合。

在經(jīng)典的多分類問題中，特征學(xué)習(xí)的目標(biāo)是最大化與最小化類間的距離。在DOC算法中，用兩個指標(biāo)來表示單類的特征。緊湊性表示將圖像中提取的一組特征緊湊地放置在特征空間，由類間距離決定。描述性是指給定的特征對不同的圖像有不同的表達，在這種情況下，描述性特征有較大的類間距離。單類分類的目標(biāo)是找到合適的特征表示，使其最大程度上展現(xiàn)緊湊性與描述性?？梢杂霉奖硎緸椋?/p>

[g=maxD（gt+λC（gt）]

t是給定的數(shù)據(jù)，[λ]為常數(shù)，[D（g（t））]表示描述性，[C（g（t））]表示緊湊性。

1.4 遷移學(xué)習(xí)

在傳統(tǒng)的機器學(xué)習(xí)中，有許多需要大量數(shù)據(jù)標(biāo)注和訓(xùn)練的情況，為了對已有數(shù)據(jù)的利用和保證新訓(xùn)練模型的精度，遷移學(xué)習(xí)的思想引起了廣泛關(guān)注[9-10]。按照遷移的參照分類，可以分為基于實例的遷移，基于特征的遷移與基于參數(shù)的遷移，在確定好確定對象后，才能針對具體問題得到解決方法，設(shè)計出合適的算法來遷移已有網(wǎng)絡(luò)。

為了避免數(shù)據(jù)過多造成的繁重重復(fù)的工作，我們采用遷移學(xué)習(xí)的方法，其中包括僅訓(xùn)練最后一個完全連接的層，訓(xùn)練整個網(wǎng)絡(luò)，優(yōu)化模型從而減少樣本數(shù)量。通過遷移學(xué)習(xí)，我們可以充分利用一切可以應(yīng)用的現(xiàn)有資源，經(jīng)過大數(shù)據(jù)訓(xùn)練好的模型與樣本結(jié)合起來調(diào)整模型參數(shù)，稍加修改遷移到我們的研究中。

2實驗結(jié)果與分析

2.1數(shù)據(jù)集

實驗對癌癥數(shù)據(jù)進行分類，數(shù)據(jù)來自TCGA（The Cancer Genome Atlas），是由美國國家癌癥研究所和國家人類基因組研究所共同提供的大型癌癥基因組數(shù)據(jù)庫。在TCGA數(shù)據(jù)庫中下載了1021張肺癌圖像作為數(shù)據(jù)集。由于直接下載的圖像過大，在訓(xùn)練前對數(shù)據(jù)進行預(yù)處理，轉(zhuǎn)換成TensorFlow支持的TFRecord格式，并將處理好的數(shù)據(jù)按7：3隨機分為訓(xùn)練和測試集兩類。

2.2實驗設(shè)置

實驗采用VGG16模型，輸入預(yù)處理完成的數(shù)據(jù)，大小為224×224×3像素，各個卷積層的卷積核大小均為3×3，各個池化層的池化單元均為2×2[11]，Conv1兩層卷積層和64個通道數(shù)，輸出為（224，224，64），最大池化后輸出（112，112，64）。Conv2兩層卷積層和128個通道數(shù)，經(jīng)過最大池化后輸出（56，56，128）。Conv3三層卷積層和256個通道數(shù)，最大池化后輸出（28，28，256）。Conv4三層卷積層和512個通道數(shù)，最大池化后（14，14，512）。Conv5三層卷積層和512個通道數(shù)，最大池化后輸出（7，7，512）。全連接層Fc6將神經(jīng)元全部連接，輸出（1，1，4096），全連接層Fc7完全連接后輸出（1，1，1000）。網(wǎng)絡(luò)獲取足夠的特征后將最終矩陣轉(zhuǎn)化為向量，用于數(shù)據(jù)分類和預(yù)測。

數(shù)據(jù)的分類結(jié)果如表1所示：

共300條數(shù)據(jù)進入訓(xùn)練好的模型測試，正常病理學(xué)圖像236張，肺癌細胞圖像64張，其中對正常細胞分類正確的有219張，錯誤的有17張，對肺癌細胞分類正確的有58張，錯誤的有6張。結(jié)果分析可得，模型的準確率為92.3%，召回率為97.3%。說明訓(xùn)練的模型在對細胞病理學(xué)圖像分類上有較為良好的效果。

3結(jié)論

癌癥已經(jīng)成為當(dāng)今世界重視的醫(yī)學(xué)難題，對癌癥圖像快速準確的診斷有利于患者的病情治療。而癌癥圖像相對正常細胞圖像來說更難獲得，在深度學(xué)習(xí)的基礎(chǔ)上結(jié)合遷移學(xué)習(xí)能夠減少數(shù)據(jù)的使用，提高數(shù)據(jù)標(biāo)簽的利用率。通過數(shù)據(jù)驗證，本文基于VGG16模型提出的腫瘤分類模型取得了很好的效果，準確率達到92.3%。

參考文獻：

[1] Araújo T，Aresta G，Castro E，et al.Classification of breast cancer histology images using Convolutional Neural Networks[J].PLoS One，2017，12（6）：e0177544.

[2] Raderschall E，Golub E I，Haaf T.Nuclear foci of mammalian recombination proteins are located at single-stranded DNA regions formed after DNA damage[J].PNAS，1999，96（5）：1921-1926.

[3] 楊鑫，章真.基于深度學(xué)習(xí)的人工智能在數(shù)字病理學(xué)中的進展[J].中國癌癥雜志，2021，31（2）：151-155.

[4] Dong N，Zhao L，Wu C H，et al.Inception v3 based cervical cell classification combined with artificially extracted features[J].Applied Soft Computing，2020，93：106311.

[5] 莊福振，羅平，何清，等.遷移學(xué)習(xí)研究進展[J].軟件學(xué)報，2015，26（1）：26-39.

[6] 周飛燕，金林鵬，董軍.卷積神經(jīng)網(wǎng)絡(luò)研究綜述[J].計算機學(xué)報，2017，40（6）：1229-1251.

[7] 盧宏濤，張秦川.深度卷積神經(jīng)網(wǎng)絡(luò)在計算機視覺中的應(yīng)用研究綜述[J].數(shù)據(jù)采集與處理，2016，31（1）：1-17.

[8] 余凱，賈磊，陳雨強，等.深度學(xué)習(xí)的昨天、今天和明天[J].計算機研究與發(fā)展，2013，50（9）：1799-1804.

[9] Perera P，Patel V M.Learning deep features for one-class classification[J].IEEE Transactions on Image Processing，2019，28（11）：5450-5463.

[10] 石祥濱，房雪鍵，張德園，等.基于深度學(xué)習(xí)混合模型遷移學(xué)習(xí)的圖像分類[J].系統(tǒng)仿真學(xué)報，2016，28（1）：167-173，182.

[11] 馮國徽.基于卷積神經(jīng)網(wǎng)絡(luò)VGG模型的小規(guī)模圖像分類[D].蘭州：蘭州大學(xué)，2018.

【通聯(lián)編輯：唐一東】