一種深度學(xué)習(xí)結(jié)合遷移學(xué)習(xí)推斷大壩缺失監(jiān)測(cè)值的方法

王麗蓉,鄭東健

(1.中國(guó)電建集團(tuán)西北勘測(cè)設(shè)計(jì)研究院有限公司,西安 710065;2.河海大學(xué)水利水電學(xué)院,南京 210098)

0 前 言

大壩安全監(jiān)測(cè)系統(tǒng)運(yùn)行環(huán)境復(fù)雜，隨著時(shí)間推移，難以避免出現(xiàn)傳感器損壞，電源和通訊中斷等監(jiān)測(cè)系統(tǒng)故障，導(dǎo)致大壩安全監(jiān)測(cè)數(shù)據(jù)缺失，破壞了監(jiān)測(cè)資料的連續(xù)性和完整性，尤其大壩內(nèi)觀儀器一旦損壞失效，難以修復(fù)，監(jiān)測(cè)數(shù)據(jù)的缺失不利于大壩安全狀態(tài)的分析。

大壩安全監(jiān)測(cè)資料的缺失補(bǔ)全，目前主要通過(guò)臨近時(shí)間和相鄰測(cè)點(diǎn)進(jìn)行推斷。如李夢(mèng)龍等[1]通過(guò)KNN(K-最近鄰方法)搜索與缺省值樣本相關(guān)性最高的有效樣本，計(jì)算相關(guān)樣本平均值即得到預(yù)測(cè)值；這種方法比較簡(jiǎn)潔，但用均值代替缺省值，可靠性難以保證。王娟等[2]基于核獨(dú)立分量分析(KICA)，對(duì)損壞測(cè)點(diǎn)的相關(guān)測(cè)點(diǎn)進(jìn)行非線(xiàn)性變換，提取獨(dú)立分量，將獨(dú)立分量作為輸入，損壞測(cè)點(diǎn)測(cè)值作為輸出，通過(guò)訓(xùn)練，建立關(guān)聯(lián)向量機(jī)(RVM)模型，實(shí)現(xiàn)測(cè)值缺失補(bǔ)全。但RVM的訓(xùn)練需要缺失時(shí)段之前和之后的監(jiān)測(cè)數(shù)據(jù)，僅能進(jìn)行中間缺失段的插補(bǔ)，不適合儀器損壞后再無(wú)新增測(cè)值的情況。

可見(jiàn)現(xiàn)有方法常常利用相關(guān)測(cè)點(diǎn)推斷損壞測(cè)點(diǎn)缺失值，而相關(guān)測(cè)點(diǎn)的選取局限在與損壞測(cè)點(diǎn)相同的監(jiān)測(cè)項(xiàng)目中；實(shí)際上不同項(xiàng)目測(cè)點(diǎn)測(cè)值，如變形、應(yīng)力、揚(yáng)壓力等從多方面反映大壩性態(tài)，本質(zhì)上是大壩在內(nèi)外因素作用下的不同響應(yīng)，不同項(xiàng)目測(cè)點(diǎn)與損壞測(cè)點(diǎn)的時(shí)空關(guān)系也是進(jìn)行缺失值推斷估計(jì)的重要信息源。同時(shí)，當(dāng)測(cè)點(diǎn)損壞時(shí)間較長(zhǎng)，自身積累的監(jiān)測(cè)資料不足時(shí)，現(xiàn)有方法難以在這種情況下保證推斷模型的充分訓(xùn)練，使推斷值滿(mǎn)足精度要求；利用相似區(qū)域監(jiān)測(cè)點(diǎn)的資料信息，通過(guò)遷移學(xué)習(xí)，可以彌補(bǔ)自身監(jiān)測(cè)資料的不足。

為此，本文在深入分析大壩安全監(jiān)測(cè)資料缺失值特點(diǎn)的基礎(chǔ)上，運(yùn)用深度學(xué)習(xí)中的卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network，CNN)和遷移學(xué)習(xí)中的finetune方法，挖掘工作性態(tài)相似區(qū)域，不同監(jiān)測(cè)項(xiàng)目測(cè)值與損壞測(cè)點(diǎn)測(cè)值的內(nèi)在邏輯關(guān)系，提出深度學(xué)習(xí)結(jié)合遷移學(xué)習(xí)的測(cè)值缺失估計(jì)推斷方法，為實(shí)現(xiàn)大壩安全監(jiān)測(cè)資料的缺失補(bǔ)全提供支撐。

1 基本理論

1.1 卷積神經(jīng)網(wǎng)絡(luò)的建模原理

CNN是深度學(xué)習(xí)技術(shù)的一種，是一種前向有監(jiān)督神經(jīng)網(wǎng)絡(luò)，是傳統(tǒng)人工神經(jīng)網(wǎng)絡(luò)[3]進(jìn)一步發(fā)展的成果，具有自主抓取數(shù)據(jù)特征的特點(diǎn)，由于卷積層發(fā)揮卷積運(yùn)算的作用，CNN專(zhuān)門(mén)用來(lái)處理具有網(wǎng)絡(luò)結(jié)構(gòu)的數(shù)據(jù)。

圖1 卷積神經(jīng)網(wǎng)絡(luò)基本構(gòu)成

(1)

遷移學(xué)習(xí)(transfer learning)是機(jī)器學(xué)習(xí)的一個(gè)分支，利用數(shù)據(jù)、任務(wù)或模型之間的相似性將在舊領(lǐng)域?qū)W習(xí)的知識(shí)遷移應(yīng)用于新領(lǐng)域，在數(shù)據(jù)眾多而訓(xùn)練樣本缺乏時(shí)尤為實(shí)用[6]。舊領(lǐng)域即為源域(the source domain)，是有知識(shí)、有大量訓(xùn)練樣本的領(lǐng)域，是遷移對(duì)象；新領(lǐng)域即為目標(biāo)域(the target domain)，是需要賦予知識(shí)、賦予標(biāo)注的對(duì)象；知識(shí)從源域傳遞到目標(biāo)域就完成了遷移[7]。遷移學(xué)習(xí)的基本方法包括樣本遷移，特征遷移，模型遷移和關(guān)系遷移等學(xué)習(xí)方法。本文采用基于模型的finetune遷移學(xué)習(xí)方法[8-9]。

CNN對(duì)二維矩陣數(shù)據(jù)進(jìn)行卷積運(yùn)算時(shí)，遵循公式(2)的二維離散卷積公式。

(2)

將荸薺用大量清水洗去泥土，用去皮刀除去荸薺表面的褐色表皮，將去皮后的荸薺1 kg放置在5 L的玻璃容器中，加無(wú)菌水至沒(méi)過(guò)荸薺，浸泡5 min后濾除水分(浸泡時(shí)間過(guò)長(zhǎng)，鮮切荸薺細(xì)胞嚴(yán)重失水)，反復(fù)浸泡清洗三次，濾干水分備用，該種去皮后的荸薺即為鮮切荸薺。

1.2 遷移學(xué)習(xí)的原理

公式(1)中：s(t)為信號(hào)的連續(xù)估計(jì)函數(shù)；函數(shù)x(·)為信號(hào)測(cè)量結(jié)果；w(·)為加權(quán)函數(shù)；a為測(cè)量結(jié)果距當(dāng)前時(shí)刻的時(shí)間間隔；t為任意時(shí)刻。

硬度測(cè)試：同樣取樣自來(lái)水與凈化水、水量相等。各滴入硬度試劑兩滴，自來(lái)水瞬間呈粉紅色，而凈化水則呈現(xiàn)藍(lán)色，說(shuō)明凈化水硬度更低，蘇泊爾R9713凈水機(jī)的軟化效果明顯。

1.2.1finetune遷移學(xué)習(xí)方法的原理

Finetune(微調(diào))是一種深度神經(jīng)網(wǎng)絡(luò)遷移形式。深度神經(jīng)網(wǎng)絡(luò)由多個(gè)網(wǎng)絡(luò)層次構(gòu)成，2014年，來(lái)自康奈爾大學(xué)的Jason Yosinski等人[10]率先進(jìn)行了深度神經(jīng)網(wǎng)絡(luò)可遷移性研究，研究結(jié)果表明神經(jīng)網(wǎng)絡(luò)前幾層學(xué)習(xí)到的基本都是輸入數(shù)據(jù)的淺層特征，即通用特征，因此網(wǎng)絡(luò)前幾層對(duì)相似任務(wù)均有效。隨著網(wǎng)絡(luò)層次加深，后層網(wǎng)絡(luò)更偏重于學(xué)習(xí)數(shù)據(jù)特定的特征，對(duì)特定任務(wù)有效。以該研究結(jié)果為理論支持，finetune將在源域上訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)遷移至目標(biāo)域，針對(duì)目標(biāo)域的特點(diǎn)將該神經(jīng)網(wǎng)絡(luò)部分參數(shù)再進(jìn)行調(diào)整，從而獲得匹配目標(biāo)域的網(wǎng)絡(luò)模型。當(dāng)目標(biāo)域標(biāo)注不足，即訓(xùn)練樣本不足時(shí)，僅依賴(lài)目標(biāo)域的可用數(shù)據(jù)難以將神經(jīng)網(wǎng)絡(luò)訓(xùn)練完全，引入finetune可解決該問(wèn)題。

Finetune在遷移深度神經(jīng)網(wǎng)絡(luò)時(shí)，神經(jīng)網(wǎng)絡(luò)的前幾層參數(shù)固定，后幾層參數(shù)在源域上進(jìn)行了預(yù)訓(xùn)練，在目標(biāo)域上調(diào)整時(shí)以預(yù)訓(xùn)練結(jié)果為基準(zhǔn)。因此finetune具有以下4個(gè)特點(diǎn)：

飲食及藥物：中藥中，香附、郁金、佛手、香櫞、玫瑰花等可以疏肝理氣，枸杞、女貞子、墨旱蓮、桑葚、黑芝麻等有養(yǎng)陰精、補(bǔ)肝腎之功。中成藥中的六味地黃丸有滋補(bǔ)肝腎之功，可用于肝腎陰虛出現(xiàn)的腰膝酸軟、頭暈?zāi)垦！⒍@耳鳴等；加味逍遙丸可治療肝郁血虛引起的兩脅脹痛、頭暈?zāi)垦?、月?jīng)不調(diào)等。一些藥食同源之品，如菊花、桑葉、百合泡茶可以清肝明目，玫瑰花、月季花可以調(diào)經(jīng)解郁，蓮子、芡實(shí)可補(bǔ)腎固精等。

(1) Finetune通過(guò)深度神經(jīng)網(wǎng)絡(luò)的遷移實(shí)現(xiàn)了知識(shí)從源域轉(zhuǎn)移到目標(biāo)域的效果。

(2) 新網(wǎng)絡(luò)模型前幾層的參數(shù)由源域決定，微調(diào)時(shí)不再改變，數(shù)據(jù)需求量大大降低，因此解決了目標(biāo)域標(biāo)注不足，即訓(xùn)練樣本不足的問(wèn)題。

(3) 對(duì)于目標(biāo)域，不需要重新訓(xùn)練神經(jīng)網(wǎng)絡(luò)的全部參數(shù)，節(jié)省時(shí)間成本。

1.3.1二維超聲良性 表現(xiàn)為良性患者的結(jié)點(diǎn)的縱橫比值要小于1，邊界的形狀較為規(guī)則，且邊界可以清晰的分辨開(kāi)來(lái)，結(jié)節(jié)內(nèi)部出現(xiàn)的回聲相對(duì)較高，粗大鈣化較為明顯。結(jié)節(jié)周?chē)沫h(huán)繞血液信號(hào)利用多普勒進(jìn)行檢測(cè)，得到的信號(hào)為RI＜0.7。于此相比，惡性腫瘤的特征與此數(shù)據(jù)相反，惡性腫瘤患者橫縱比≥1，周?chē)懿灰?guī)則，且邊界較為模糊，結(jié)節(jié)內(nèi)部的獲勝較低，表現(xiàn)出微鈣化現(xiàn)象，多普勒測(cè)定得到的血流信號(hào)為RI≥0.7。

(2)CNN模型通過(guò)找到相關(guān)測(cè)點(diǎn)與損壞測(cè)點(diǎn)之間的關(guān)系來(lái)推斷缺失值，分別對(duì)源域和目標(biāo)域建立的CNN模型，測(cè)點(diǎn)間的關(guān)系應(yīng)該類(lèi)似。源域訓(xùn)練樣本與目標(biāo)域訓(xùn)練樣本在監(jiān)測(cè)項(xiàng)目、測(cè)點(diǎn)數(shù)量和測(cè)點(diǎn)位置上存在相匹配的對(duì)應(yīng)關(guān)系。源域和目標(biāo)域所在位置的壩體體型應(yīng)該相似。

2 CNN缺失測(cè)值估計(jì)模型的遷移

2.1 CNN缺失測(cè)值估計(jì)模型

CNN測(cè)值估計(jì)模型就是用多次時(shí)間連續(xù)的相關(guān)測(cè)點(diǎn)監(jiān)測(cè)數(shù)據(jù)，推斷損壞或失效時(shí)間的測(cè)點(diǎn)缺失值。即將相關(guān)測(cè)點(diǎn)二維矩陣輸入CNN測(cè)值估計(jì)模型，由CNN模型輸出測(cè)點(diǎn)缺失值。相關(guān)測(cè)點(diǎn)二維矩陣的高為相關(guān)測(cè)點(diǎn)監(jiān)測(cè)次數(shù)、寬為相關(guān)測(cè)點(diǎn)數(shù)量。CNN模型學(xué)習(xí)相關(guān)測(cè)點(diǎn)和測(cè)點(diǎn)損壞前監(jiān)測(cè)值之間的非線(xiàn)性隱式關(guān)系，然后將損壞時(shí)間相關(guān)測(cè)點(diǎn)監(jiān)測(cè)數(shù)據(jù)輸入模型，即可實(shí)現(xiàn)損壞測(cè)點(diǎn)缺失測(cè)值推斷。用相關(guān)測(cè)點(diǎn)推斷損壞測(cè)點(diǎn)的缺失值，前提是相關(guān)測(cè)點(diǎn)與損壞測(cè)點(diǎn)存有的監(jiān)測(cè)序列具有相關(guān)性。

2.2 源域的選擇

建立相關(guān)測(cè)點(diǎn)推斷損壞測(cè)點(diǎn)缺失值的CNN測(cè)值估計(jì)模型時(shí)，將損壞測(cè)點(diǎn)及其相關(guān)測(cè)點(diǎn)監(jiān)測(cè)數(shù)據(jù)的集合作為目標(biāo)域，與目標(biāo)域具有相似特征的測(cè)點(diǎn)集合為源域。目標(biāo)域的損壞測(cè)點(diǎn)監(jiān)測(cè)值數(shù)量過(guò)少，不足以訓(xùn)練CNN模型，需先用源域數(shù)據(jù)訓(xùn)練CNN模型，再將CNN模型遷移至目標(biāo)域。遷移成功的一個(gè)關(guān)鍵在于源域和目標(biāo)域具有較強(qiáng)相似性?？梢罁?jù)以下幾點(diǎn)選擇源域：

(1)不同類(lèi)型大壩的監(jiān)測(cè)項(xiàng)目間具有不同的關(guān)聯(lián)關(guān)系，要求源域和目標(biāo)域?yàn)橄嗤?lèi)型大壩上的監(jiān)測(cè)點(diǎn)。

(4) 模型預(yù)訓(xùn)練在數(shù)據(jù)充足的源域上進(jìn)行，無(wú)形中擴(kuò)充目標(biāo)域的訓(xùn)練數(shù)據(jù)，使得新模型具有更好的泛化性能。

1.苗瘟：秧苗3葉期前發(fā)病，苗基部灰黑色，上部黃褐色，卷縮枯死。3葉期后發(fā)生的多在葉片上形成明顯病斑，與葉瘟癥狀相同，稱(chēng)苗葉瘟。

2.3 CNN缺失測(cè)值估計(jì)模型的finetune遷移

若只存在1個(gè)源域，采用finetune方法將對(duì)源域訓(xùn)練好的CNN測(cè)值估計(jì)模型遷移至目標(biāo)域。inetune遷移學(xué)習(xí)過(guò)程如圖2所示，將CNN模型前幾層固定，不再調(diào)整前幾層網(wǎng)絡(luò)參數(shù)，用目標(biāo)域的少量監(jiān)測(cè)數(shù)據(jù)訓(xùn)練CNN模型的后幾層，調(diào)整后幾層的網(wǎng)絡(luò)參數(shù)。再次訓(xùn)練完成后finetune遷移的CNN模型即可適應(yīng)目標(biāo)域。

圖2 finetune遷移學(xué)習(xí)過(guò)程

3 實(shí)例分析

由表4可知：① 9號(hào)壩段正應(yīng)力Sx、Sy、Sz推斷值的RMSE小于0.1 MPa，MAPE小于2.8%；② 13號(hào)壩段正應(yīng)力Sx′、Sy′、Sz′推斷值的RMSE小于0.26 MPa，正應(yīng)力Sy′、Sz′推斷值的MAPE小于6.2%；正應(yīng)力Sx′推斷值的MAPE為35.2109%，RMSE為0.1166 MPa。CNN模型對(duì)Sx′、Sy′、Sz′的推斷值與實(shí)測(cè)值較為接近。

圖3 9號(hào)和13號(hào)壩段橫截面

3.1 建模思路

對(duì)協(xié)方差Pk同步進(jìn)行調(diào)整，把位置x,y,z有關(guān)的矩陣元素調(diào)整到前t行前t列，即矩陣的左上角。針對(duì)目標(biāo)跟蹤應(yīng)用場(chǎng)景，t=3。

圖4 遷移學(xué)習(xí)建模思路

3.2 源域的合理性分析

聽(tīng)力損失患者由于聽(tīng)覺(jué)器官受損,其言語(yǔ)辨識(shí)能力下降,使得他們?cè)谠肼暛h(huán)境中的語(yǔ)音理解力遠(yuǎn)低于聽(tīng)力正常者。噪聲環(huán)境中聽(tīng)力損失患者的語(yǔ)音理解度是影響助聽(tīng)器使用的關(guān)鍵因素之一[1],因此語(yǔ)音增強(qiáng)技術(shù)是助聽(tīng)器中的一種核心技術(shù),它能有效消除背景噪聲,改善語(yǔ)音質(zhì)量,從而提高患者在噪聲環(huán)境中的語(yǔ)音理解度。

3.3 CNN測(cè)值估計(jì)模型所需數(shù)據(jù)集的構(gòu)建

如圖1所示，CNN結(jié)構(gòu)組成按順序?yàn)檩斎雽?、卷積層、池化層、全連接層和輸出層。其中卷積層和池化層可依據(jù)待處理數(shù)據(jù)的復(fù)雜程度多次重復(fù)添加。卷積層和池化層的操作常在一個(gè)二維平面上進(jìn)行，輸入數(shù)據(jù)在卷積層中經(jīng)過(guò)卷積運(yùn)算實(shí)現(xiàn)特征提取，而后在池化層中將特征數(shù)據(jù)降維，以避免過(guò)擬合并減輕運(yùn)算荷載[4-5]，最后全連接層根據(jù)特征進(jìn)一步處理數(shù)據(jù)。卷積層和池化層組合成的特征提取器在網(wǎng)絡(luò)訓(xùn)練過(guò)程中自行優(yōu)化，不需要人為干預(yù)。公式(1)是卷積運(yùn)算公式。

表1 9號(hào)壩段CNN測(cè)值估計(jì)模型輸入數(shù)據(jù)示例

表2 9號(hào)壩段CNN測(cè)值估計(jì)模型輸出數(shù)據(jù)示例

輸入模型前先對(duì)所有監(jiān)測(cè)數(shù)據(jù)以其所屬測(cè)點(diǎn)為單位進(jìn)行Max-Min標(biāo)準(zhǔn)化，將測(cè)值歸一化到[0,1]區(qū)間，計(jì)算見(jiàn)公式(3)。

(3)

公式(3)中：xi為一段監(jiān)測(cè)序列中的任意值；xmin為監(jiān)測(cè)序列中的最小值；xmax為監(jiān)測(cè)序列中的最大值；xi′為xi轉(zhuǎn)換后的值。

3.4 CNN測(cè)值估計(jì)模型建立

采用Python軟件編程，為節(jié)約訓(xùn)練時(shí)間并提升學(xué)習(xí)效果，每7個(gè)輸入數(shù)據(jù)為一批輸入CNN模型，即batch=7，訓(xùn)練900代，學(xué)習(xí)率為0.001，優(yōu)化方法為Adam，誤差計(jì)算采用MSE(均方誤差)。CNN模型輸入數(shù)據(jù)矩陣形狀為10×4(10 d 4組變形測(cè)值)，輸出數(shù)據(jù)矩陣形狀為1×3(1 d 3方向正應(yīng)力)，10、1代表時(shí)長(zhǎng)，4、3代表測(cè)值序列數(shù)量；CNN包括3層，前兩層為卷積層conv1、conv2，最后一層為全連接層out，模型結(jié)構(gòu)見(jiàn)表3。

表3 CNN測(cè)值估計(jì)模型結(jié)構(gòu)

輸入conv1的數(shù)據(jù)特征層維數(shù)為1，輸出數(shù)據(jù)特征層維數(shù)為16，卷積核大小為3×3，步長(zhǎng)為1，采取padding等于1的零填充方式，保證conv1的輸出數(shù)據(jù)與輸入數(shù)據(jù)高、寬相同；卷積操作后經(jīng)過(guò)ReLU激活函數(shù)，增加神經(jīng)網(wǎng)絡(luò)模型的非線(xiàn)性；隨后經(jīng)過(guò)核大小為2×2、步長(zhǎng)為2的最大池化層，將數(shù)據(jù)高、寬縮小一倍。輸入conv2的數(shù)據(jù)特征層維數(shù)為16，輸出數(shù)據(jù)特征層維數(shù)為32，卷積核大小為2×2，步長(zhǎng)為1；卷積操作后經(jīng)過(guò)ReLU激活函數(shù)。out層將包含32個(gè)特征的conv2輸出數(shù)據(jù)拼接、變換成包含3個(gè)特征的神經(jīng)網(wǎng)絡(luò)輸出數(shù)據(jù)，即為正應(yīng)力Sx、Sy、Sz的推斷值。

公式(2)中：S為特征映射；I為輸入的二維矩陣數(shù)據(jù)；K為卷積核；m、n為K的元素指數(shù)，m、n為整數(shù)，0 ≤m

輸入數(shù)據(jù)在CNN模型中的變換過(guò)程如圖5所示。

圖5 CNN測(cè)值估計(jì)模型中的數(shù)據(jù)變換過(guò)程

3.5 CNN測(cè)值估計(jì)模型的finetune遷移實(shí)現(xiàn)

由3.1節(jié)分析可知，將9號(hào)壩段的監(jiān)測(cè)數(shù)據(jù)作為源域、13號(hào)壩段的監(jiān)測(cè)數(shù)據(jù)作為目標(biāo)域是可行的。可以將3.3節(jié)對(duì)9號(hào)壩段建立的CNN模型遷移至13號(hào)壩段，用于推斷13號(hào)壩段損壞測(cè)點(diǎn)應(yīng)力值。為此，采用finetune方法將3.3節(jié)在9號(hào)壩段上訓(xùn)練好的CNN測(cè)值估計(jì)模型遷移至13號(hào)壩段。采用Python軟件編程，學(xué)習(xí)率為0.001，訓(xùn)練450代。如圖6，將CNN模型前兩層(conv1、conv2)固定，不再調(diào)整前兩層網(wǎng)絡(luò)參數(shù)，用13號(hào)壩段2015年7月14日至11月27日共103組測(cè)值訓(xùn)練最后一層(out)，調(diào)整最后一層網(wǎng)絡(luò)參數(shù)。訓(xùn)練完成后推斷13號(hào)壩段從2016年6月3日至10月8日的正應(yīng)力Sx′、Sy′、Sz′。

圖6 finetune遷移學(xué)習(xí)過(guò)程

3.6 測(cè)點(diǎn)缺失值推斷結(jié)果分析

3.6.1直接建立的CNN測(cè)值估計(jì)模型

分別按照公式(4)和(5)計(jì)算9號(hào)壩段正應(yīng)力(Sx、Sy、Sz)CNN模型推斷值，和13號(hào)壩段正應(yīng)力(Sx′、Sy′、Sz′)CNN模型推斷值的均方根誤差(RMSE)及平均絕對(duì)百分比誤差(MAPE)，結(jié)果見(jiàn)表4。

表4 CNN模型推斷性能量化評(píng)估結(jié)果

(4)

(5)

綜上，針對(duì)急性闌尾炎實(shí)施手術(shù)治療的患者，在常規(guī)護(hù)理的同時(shí)實(shí)施心理護(hù)理進(jìn)行干預(yù)，可有效改善患者的焦慮、抑郁情緒，效果較好，值得推廣。

某工程樞紐主要由擋水建筑物、泄洪消能建筑物、引(尾)水發(fā)電系統(tǒng)等組成。其中攔河大壩為碾壓混凝土重力壩，泄洪建筑物位于河床中部，自左至右依次布置左岸擋水壩段、左中孔壩段、河床5孔溢流壩段、右中孔壩段、右岸擋水壩段。大壩壩頂高程1 334.00m，最低建基面1 166.00 m，最大壩高168.00 m，壩頂長(zhǎng)度516.00 m，最大底寬153.20 m。水庫(kù)正常蓄水位1 330.00 m，總庫(kù)容7.6億m3。壩址位于高山峽谷區(qū)，谷坡陡峻，地質(zhì)構(gòu)造相對(duì)復(fù)雜，兩岸地形總體坡面較為整齊，山體渾厚，河谷呈不對(duì)稱(chēng)的“V”字型。安全監(jiān)測(cè)設(shè)計(jì)依據(jù)國(guó)家有關(guān)規(guī)范和相關(guān)技術(shù)標(biāo)準(zhǔn)，結(jié)合電站地質(zhì)條件和建筑物特點(diǎn)設(shè)置各類(lèi)監(jiān)測(cè)儀器和設(shè)施。主要監(jiān)測(cè)內(nèi)容包括環(huán)境量、變形監(jiān)測(cè)控制網(wǎng)、壩體水平及垂直位移監(jiān)測(cè)、壩基及壩體傾斜監(jiān)測(cè)、壩體混凝土應(yīng)力應(yīng)變監(jiān)測(cè)等。圖3為該重力壩9號(hào)壩段和13號(hào)壩段。

綜上所述，在9號(hào)和13號(hào)壩段上直接建立的CNN測(cè)值估計(jì)模型推斷效果較好。

3.6.2finetune遷移的CNN測(cè)值估計(jì)模型

繪出13號(hào)壩段測(cè)點(diǎn)的正應(yīng)力實(shí)測(cè)過(guò)程線(xiàn)如圖7所示。監(jiān)測(cè)時(shí)間為2015年3月18日至2016年10月11，其中圖7(a)的橫河向正應(yīng)力Sx′測(cè)值波動(dòng)大，圖7(a)和(b)的Sy′、順河向正應(yīng)力Sz′分別在2015年6月21日、2015年7月22日出現(xiàn)臺(tái)階現(xiàn)象。

文學(xué)是對(duì)現(xiàn)實(shí)生活共性和個(gè)性創(chuàng)造性的提煉、塑造、超越、升華的藝術(shù)表達(dá)，人們?cè)谧x作品時(shí)，進(jìn)入作品的情境，宛若經(jīng)歷著主人公所經(jīng)受的一切，體驗(yàn)著主人公所有心理與情感。通過(guò)文學(xué)作品的文本，打破固定的文本界限，調(diào)動(dòng)讀者情感與想象，加深對(duì)生命的體驗(yàn)，獲得文學(xué)藝術(shù)的審美愉悅。古敦煌地區(qū)的人們，創(chuàng)造了有溫度、有情感、有審美的文學(xué)藝術(shù)世界，通過(guò)對(duì)《伍子胥變文》閱讀體驗(yàn)，筆者從如下幾個(gè)方面探討其藝術(shù)特質(zhì)：

圖7 13號(hào)壩段測(cè)點(diǎn)正應(yīng)力實(shí)測(cè)過(guò)程線(xiàn)

計(jì)算finetune遷移模型推斷的13號(hào)壩段正應(yīng)力的均方根誤差(RMSE)，以及平均絕對(duì)百分比誤差(MAPE)見(jiàn)表5。表5中13號(hào)壩段直接建模的誤差采用表4的評(píng)估結(jié)果。

由表5可知，finetune遷移模型推斷橫河向、順河向正應(yīng)力Sx′、Sy′的RMSE小于0.15 MPa，順河向、垂直向正應(yīng)力Sy′、Sz′ 的MAPE小于10.6%。finetune推斷的Sy′、Sz′值與實(shí)測(cè)值接近，推斷效果好，Sx′的RMSE較小，而MAPE為49.4173%，為Sx′量級(jí)(10-1)較小所致。

處理之后北側(cè)JC3、JC2穩(wěn)定在現(xiàn)在的標(biāo)高上，其他JC1、JC4基礎(chǔ)平穩(wěn)緩慢地被抬升但仍未達(dá)到規(guī)范要求。因此采用八臺(tái)液壓千斤頂加以電腦輔助頂升控制，井架快速回傾至規(guī)范允許值以?xún)?nèi)井架墊板下口加塞大截面鋼板補(bǔ)襯，用C50高標(biāo)號(hào)砼二次灌注。經(jīng)礦方地測(cè)部門(mén)長(zhǎng)期觀測(cè)，井架未發(fā)生新的傾斜。

表5 13號(hào)壩段finetune遷移的CNN模型推斷性能量化評(píng)估結(jié)果

繪出13號(hào)壩段正應(yīng)力Sx′、Sy′、Sz′的估計(jì)值過(guò)程線(xiàn)見(jiàn)圖8，可見(jiàn)finetune遷移模型的推斷精度略低于直接建模，但是總體效果較好。

因混沌偽隨機(jī)序列的相關(guān)性對(duì)通信系統(tǒng)非常重要,要分析的因素較多,所以下面要對(duì)混沌序列的相關(guān)性展開(kāi)具體的分析。

圖8 13號(hào)壩段正應(yīng)力估計(jì)值過(guò)程線(xiàn)

4 結(jié) 論

本文針對(duì)大壩安全監(jiān)測(cè)資料測(cè)值缺失的問(wèn)題，運(yùn)用深度學(xué)習(xí)和遷移學(xué)習(xí)方法，研究了應(yīng)用不同監(jiān)測(cè)項(xiàng)目，不同監(jiān)測(cè)位置測(cè)點(diǎn)監(jiān)測(cè)資料進(jìn)行缺失測(cè)值估計(jì)推斷的方法，形成結(jié)論如下：

一是合理把握教材的難度．例題之間應(yīng)留有合適的坡度，可以給學(xué)生探索和思考留白，但跨度太大，會(huì)對(duì)學(xué)生認(rèn)知造成人為障礙．如何由“教材”轉(zhuǎn)變?yōu)椤皩W(xué)材”，中國(guó)臺(tái)灣（甚至新加坡）等地的教材都能給予很好的啟示．

(1) 利用卷積神經(jīng)網(wǎng)絡(luò)(CNN)專(zhuān)門(mén)處理網(wǎng)絡(luò)結(jié)構(gòu)數(shù)據(jù)的特點(diǎn)和finetune遷移學(xué)習(xí)方法,將知識(shí)從源域轉(zhuǎn)移到目標(biāo)域的能力，提出了缺失值CNN模型遷移學(xué)習(xí)估計(jì)法,并分析了模型遷移源域選擇的依據(jù)。

網(wǎng)絡(luò)初中數(shù)學(xué)原創(chuàng)精品資源基地的建立，旨在構(gòu)建符合素質(zhì)教育要求、變革教與學(xué)行為方式、融合數(shù)學(xué)文化的課程體系，提升學(xué)生學(xué)習(xí)快樂(lè)感和教師的職業(yè)幸福感.同時(shí)體現(xiàn)先行先為與分析共享結(jié)合，圍繞解決做什么、怎么做的問(wèn)題，先行試驗(yàn)、總結(jié)提升，通過(guò)各種形式建立便于向其他中小學(xué)和社區(qū)開(kāi)放的資源共享平臺(tái).

(2) 結(jié)合實(shí)際工程，建立了基于相同位置不同監(jiān)測(cè)項(xiàng)目測(cè)點(diǎn)的缺失值估計(jì)CNN模型，通過(guò)finetune遷移方法，實(shí)現(xiàn)了不同位置缺失值估計(jì)模型的遷移。

(3) 實(shí)例分析表明，相同位置不同監(jiān)測(cè)量缺失值CNN估計(jì)模型的缺失值推斷與實(shí)測(cè)值較為接近，遷移學(xué)習(xí)方法可以實(shí)現(xiàn)訓(xùn)練樣本不足時(shí)的缺失值估計(jì)，缺失值估計(jì)誤差滿(mǎn)足測(cè)值允許中誤差的要求。