基于LSTM 的K2CsSb 光陰極反射率預(yù)測(cè)模型

魏靜雯，錢蕓生，曹 揚(yáng)

（南京理工大學(xué) 電子工程與光電技術(shù)學(xué)院，江蘇 南京 210094）

引言

K2CsSb 光陰極因其高靈敏度、低暗電流，能夠在可見光波段內(nèi)快速響應(yīng)的特性，普遍使用在光電倍增管的制作中。采用該種陰極的光電倍增管廣泛應(yīng)用于高能物理、分析儀器、醫(yī)療儀器、石油勘探和核爆檢測(cè)等領(lǐng)域。目前國(guó)內(nèi)外生產(chǎn)K2CsSb光陰極光電倍增管的廠家包括日本Hamamatsu 公司、英國(guó)Electron Tube 公司和國(guó)內(nèi)的多家公司，諸如北方夜視科技（南京）研究院有限公司、中國(guó)電子科技集團(tuán)公司第五十五研究所和北京中核控制系統(tǒng)工程有限公司等。長(zhǎng)期以來(lái)，人們普遍認(rèn)為K2CsSb 光陰極量子效率的理論極限為26%。直到2010 年，日本Hamamatsu 公司改進(jìn)的新型Ultra Bialkali（UBA）和Super Bialkali（SBA）光陰極問世，其中UBA 的量子效率高達(dá)42%[1]。近年來(lái)，國(guó)內(nèi)對(duì)光電倍增管的需求逐漸增大[2]，促使其工藝提升，但相較于濱松公司的產(chǎn)品，其性能仍有一定差距，因此國(guó)內(nèi)雙堿陰極的制作水平亟待提高。

目前國(guó)內(nèi)常用的K2CsSb 光陰極制備方式已實(shí)現(xiàn)自動(dòng)化，且隨著自動(dòng)制備技術(shù)的不斷完善，由計(jì)算機(jī)控制所帶來(lái)的穩(wěn)定性和精確度方面的提升已接近極限。同時(shí)，因其制備工藝仍為固定模式，自動(dòng)制備的陰極性能也逐漸達(dá)到瓶頸。當(dāng)前制備工藝優(yōu)化僅依靠人工總結(jié)經(jīng)驗(yàn)的方式進(jìn)行，面對(duì)海量數(shù)據(jù)人工無(wú)法充分提取其中特征。且在制備過程中無(wú)法根據(jù)當(dāng)前陰極生長(zhǎng)狀態(tài)動(dòng)態(tài)調(diào)節(jié)工藝參數(shù)設(shè)置，因此K2CsSb 光陰極制備生產(chǎn)應(yīng)向智能化轉(zhuǎn)變。K2CsSb 光陰極的制作工藝復(fù)雜。自該種陰極被發(fā)現(xiàn)以來(lái)，國(guó)內(nèi)外眾多學(xué)者提出了多種制備方法，其大多為以沉積或蒸發(fā)的方式在清潔的玻璃基底上附著K、Sb、Cs[3-7]，并在此過程中采用人眼觀察光陰極顏色或?qū)崟r(shí)監(jiān)控光電流、反射率變化的方式來(lái)判斷當(dāng)前光陰極生長(zhǎng)狀況[8]，并以此來(lái)指導(dǎo)下一步操作。在上述監(jiān)控方式中，由于反射率可表征陰極膜厚以及膜層增長(zhǎng)速率等特征[9]，能夠直觀反映光陰極當(dāng)前的生長(zhǎng)狀態(tài)，故實(shí)時(shí)反射率值在制備高性能K2CsSb 光陰極的過程中十分重要。2017 年，孫建寧等人提出一種根據(jù)反射率理論指導(dǎo)K2CsSb 光陰極制備的方法[10]，并且通過實(shí)驗(yàn)證明了不同反射率曲線的走勢(shì)會(huì)對(duì)K2CsSb 量子效率產(chǎn)生影響。

K2CsSb 光陰極制備中的反射率數(shù)據(jù)往往具有較強(qiáng)的時(shí)序特性，不同時(shí)刻之間的反射率數(shù)據(jù)相互聯(lián)系，且聯(lián)合堿源電流相關(guān)工藝數(shù)據(jù)隨制備過程形成龐大的關(guān)聯(lián)型數(shù)據(jù)集。這些時(shí)序數(shù)據(jù)為機(jī)器學(xué)習(xí)、深度學(xué)習(xí)的應(yīng)用創(chuàng)造了條件。其中，用于捕捉時(shí)序變化特征的長(zhǎng)短期記憶（long short-term memory, LSTM）網(wǎng)絡(luò)與反射率預(yù)測(cè)問題高度契合?；诖?，本文提出一種基于LSTM 的反射率預(yù)測(cè)模型，旨在根據(jù)前序制備過程工藝參數(shù)預(yù)測(cè)下一時(shí)刻反射率，以達(dá)到預(yù)判當(dāng)前陰極生長(zhǎng)狀態(tài)并根據(jù)目標(biāo)反射率曲線走勢(shì)動(dòng)態(tài)調(diào)整堿源電流等工藝參數(shù)的目的。該模型對(duì)日后建立完整性能導(dǎo)向的智能K2CsSb 光陰極制備奠定技術(shù)基礎(chǔ)。

1 反射率監(jiān)控原理

K2CsSb 光陰極制備工藝常見流程為先蒸K，當(dāng)玻璃殼內(nèi)充滿K 蒸汽后再進(jìn)行與Sb 的同步蒸發(fā)，形成K3Sb 膜層，最后蒸Cs 形成K2CsSb 膜層[11]。本文認(rèn)為在Cs 蒸鍍過程中，K3Sb 中的每3 個(gè)K 原子中有一個(gè)會(huì)被Cs 原子取代，形成K2CsSb 電子發(fā)射層/增透層/玻璃基底的3 層薄膜結(jié)構(gòu)。

圖1 給出K2CsSb 光電陰極結(jié)構(gòu)模型。假設(shè)光束從折射率為n0的空氣中垂直入射至K2CsSb 光電陰極系中，每個(gè)膜層的折射率分別記為n1、n2和n3，最后光束出射到折射率為n4的真空環(huán)境中。本陰極結(jié)構(gòu)的反射率R計(jì)算公式由文獻(xiàn)[12]給出：

圖1 K2CsSb 光電陰極結(jié)構(gòu)模型Fig. 1 Structure model of K2CsSb photocathode

由（1）、（2）式可知，透射式陰極的反射率只與入射光波長(zhǎng)、入射角度、入射介質(zhì)折射率、陰極復(fù)折射率以及陰極膜厚有關(guān)。制備過程中單色光入射角始終為 0?，豎直照射在陰極表面；此外，在入射光波長(zhǎng)單一的情況下，陰極折射率和消光系數(shù)為固定參數(shù)[13]。綜上所述，K2CsSb 光陰極制備過程中的反射率變化僅與陰極厚度相關(guān)。

2 反射率預(yù)測(cè)模型

反射率預(yù)測(cè)模型共由3 個(gè)部分組成，分別為輸入模型時(shí)的數(shù)據(jù)預(yù)處理、網(wǎng)絡(luò)的訓(xùn)練以及模型輸出的預(yù)測(cè)值。

整個(gè)預(yù)測(cè)結(jié)構(gòu)如圖2 所示。其中預(yù)處理模塊主要對(duì)堿源電流數(shù)據(jù)與反射率相關(guān)數(shù)據(jù)進(jìn)行篩選及處理，以適應(yīng)網(wǎng)絡(luò)的輸入。模型訓(xùn)練模塊用于實(shí)現(xiàn)網(wǎng)絡(luò)的搭建、自適應(yīng)學(xué)習(xí)網(wǎng)絡(luò)參數(shù)和模型的保存；預(yù)測(cè)模塊輸出當(dāng)前反射率的預(yù)測(cè)值，用于對(duì)比評(píng)估模型預(yù)測(cè)效果。

圖2 反射率預(yù)測(cè)模型結(jié)構(gòu)圖Fig. 2 Structure diagram of reflectivity prediction model

2.1 模型輸入

在搭建深度學(xué)習(xí)模型時(shí)，高質(zhì)量的輸入數(shù)據(jù)對(duì)模型的性能提升至關(guān)重要。由于原始數(shù)據(jù)采集時(shí)具有波動(dòng)、信號(hào)丟失以及錯(cuò)誤讀取等情況出現(xiàn)，故需要對(duì)數(shù)據(jù)集進(jìn)行數(shù)據(jù)清洗、篩選以及標(biāo)準(zhǔn)化等操作[14]。

本文使用的數(shù)據(jù)集由反射率監(jiān)控系統(tǒng)采集得到，包括不同時(shí)刻堿源電流的設(shè)定值及真實(shí)值、反射率曲線斜率值、反射率值以及信號(hào)采集值，樣本量為26 535 條。訓(xùn)練集和測(cè)試集按照7∶3 進(jìn)行劃分，首先用大批量的數(shù)據(jù)進(jìn)行模型訓(xùn)練，之后用測(cè)試集進(jìn)行驗(yàn)證。

2.1.1 數(shù)據(jù)清洗

對(duì)于數(shù)據(jù)集中數(shù)據(jù)缺失、數(shù)據(jù)異常的情況，需要分類進(jìn)行處理。

1） 數(shù)據(jù)缺失

由于反射率值為模型預(yù)測(cè)的目標(biāo)特征，對(duì)于反射率值缺失的情況，該條數(shù)據(jù)采取直接刪除的方式。對(duì)于其余特征缺失，若特征缺失數(shù)量大于2 條，則仍采用直接刪除的方法；基于反射率時(shí)序變化高度相關(guān)的特征，若特征缺失數(shù)量小于或等于2 條則可直接填補(bǔ)為上一時(shí)刻的特征值。

2） 數(shù)據(jù)異常

若異常值為反射率值，則直接刪除該條數(shù)據(jù)；若異常值為其余特征，則直接替換為上一時(shí)刻特征值。

2.1.2 數(shù)據(jù)篩選

在模型訓(xùn)練的過程中，過多的輸入特征會(huì)導(dǎo)致訓(xùn)練速度的降低，對(duì)無(wú)需關(guān)注的特征給予關(guān)注會(huì)對(duì)模型的預(yù)測(cè)精度造成影響，所以數(shù)據(jù)篩選亦是數(shù)據(jù)預(yù)處理中關(guān)鍵的一步。圖3 為數(shù)據(jù)集特征熱力圖，各個(gè)特征的相關(guān)性系數(shù)顯示在對(duì)應(yīng)方格中。從圖3 中可看出，堿源設(shè)定電流值和真實(shí)電流值高度相關(guān)，由于堿源蒸發(fā)真實(shí)電流值相比于設(shè)定值的離散程度更高，故舍去設(shè)定電流值，而反射光采集的信號(hào)值與反射率值的相關(guān)性系數(shù)較低可直接忽略。最終模型的輸入?yún)?shù)包括：實(shí)際堿源電流值、反射率曲線斜率以及反射率參數(shù)。

圖3 數(shù)據(jù)集特征熱力圖Fig. 3 Thermodynamic diagram of dataset feature

2.1.3 數(shù)據(jù)標(biāo)準(zhǔn)化

不同屬性不同量級(jí)的數(shù)據(jù)若直接輸入，會(huì)對(duì)模型造成一定程度的影響，主要表現(xiàn)為：量級(jí)較大的特性屬性會(huì)占據(jù)主導(dǎo)地位且易導(dǎo)致迭代收斂速度的減慢。故需要對(duì)多維特征進(jìn)行標(biāo)準(zhǔn)化操作，將數(shù)據(jù)縮放到某個(gè)指定范圍。本文采用基于原始數(shù)據(jù)的均值和標(biāo)準(zhǔn)差進(jìn)行的Z-score 標(biāo)準(zhǔn)化操作：

2.1.4 序列化重構(gòu)

由于反射率數(shù)據(jù)之間存在時(shí)間相關(guān)性，故模型需要的輸入數(shù)據(jù)需為時(shí)間序列。由上位機(jī)采集到的K2CsSb 光陰極制備中的過程參數(shù)已為時(shí)間序列，只需對(duì)數(shù)據(jù)集進(jìn)行序列化重構(gòu)即可。采用長(zhǎng)度為L(zhǎng)的滑動(dòng)窗口對(duì)數(shù)據(jù)集D進(jìn)行重構(gòu)成為新數(shù)據(jù)集Dnew，每次向下滑動(dòng)的時(shí)間長(zhǎng)度為1，如圖4 所示。實(shí)驗(yàn)發(fā)現(xiàn)L取值為5 時(shí)模型的準(zhǔn)確率最高。

圖4 數(shù)據(jù)集序列化重構(gòu)Fig. 4 Diagram of dataset serialization reconstruction

2.2 LSTM 網(wǎng)絡(luò)搭建

2.2.1 LSTM 模型概述

針對(duì)于反射率數(shù)據(jù)在時(shí)序上具有高度連續(xù)性的特征，本文采用LSTM 搭建反射率預(yù)測(cè)模型。傳統(tǒng)RNN 網(wǎng)絡(luò)雖具有時(shí)間特性，但存在長(zhǎng)跨度依賴問題，后序節(jié)點(diǎn)對(duì)于時(shí)間跨度大的前序節(jié)點(diǎn)的信息感知能力較弱，多階段的反向傳播后會(huì)導(dǎo)致梯度消失、梯度爆炸[15]。而LSTM 利用門控機(jī)制很好地控制了信息的流通和損失[16]。如圖5（a）所示，LSTM 引入了3 個(gè)門限：輸入門it、遺忘門ft、輸出門ot， 其中，輸入門it決定信息存入當(dāng)前細(xì)胞態(tài)的比例；遺忘門ft選擇性遺忘細(xì)胞態(tài)中的信息；輸出門ot選擇性地輸出信息。此外，該模型還引入了表征長(zhǎng)期記憶的細(xì)胞態(tài)Ct和等待存入長(zhǎng)期記憶的候選態(tài)C～t。

圖5 LSTM 計(jì)算原理及單元結(jié)構(gòu)圖Fig. 5 LSTM calculation principle and unit structure diagram

2.2.2 模型架構(gòu)

數(shù)據(jù)經(jīng)過預(yù)處理后，模型的輸入?yún)?shù)需轉(zhuǎn)化為張量以適應(yīng)LSTM 的輸入維度。表1 列出了LSTM模型的輸入輸出維度及參數(shù)量。數(shù)據(jù)集經(jīng)過序列化重構(gòu)后，5 條數(shù)據(jù)作為一個(gè)樣本，每個(gè)樣本包含5 列數(shù)據(jù)，初始輸入維度為(5, 5)，模型輸出為反射率預(yù)測(cè)值。由圖5（b）可知，單層LSTM 網(wǎng)絡(luò)中有4 個(gè)線性變換，包括3 個(gè)門控和1 個(gè)tanh層，而每個(gè)線性變換相當(dāng)于2 層全連接網(wǎng)絡(luò)。假設(shè)輸入維度為dx， 輸出維度為dh，全連接網(wǎng)絡(luò)第1 層的維度為dx+dh， 第2 層即為輸出層，維度為dh，則該網(wǎng)絡(luò)的參數(shù)量為

表1 網(wǎng)絡(luò)組成和參數(shù)量Table 1 Composition of network structure and the number of parameters

3 實(shí)驗(yàn)

3.1 實(shí)驗(yàn)裝置

陰極反射流程監(jiān)控裝置可實(shí)現(xiàn)60 路反射率監(jiān)控，為陰極制備過程中大量數(shù)據(jù)信息的采集提供便利。該裝置由反射率監(jiān)控光學(xué)系統(tǒng)、反射率監(jiān)控探測(cè)組件、反射率信號(hào)控制處理系統(tǒng)、堿源電源系統(tǒng)以及機(jī)械結(jié)構(gòu)件組成，圖6 為系統(tǒng)結(jié)構(gòu)圖。

圖6 反射率監(jiān)控系統(tǒng)結(jié)構(gòu)圖Fig. 6 Structure diagram of reflectivity monitoring system

堿源電源系統(tǒng)向堿源提供恒流供電，光學(xué)系統(tǒng)中的光纖由2 簇組成，單色激光光源發(fā)出調(diào)制光經(jīng)由其中一簇垂直入射至待測(cè)陰極表面，反射光經(jīng)由另一簇光纖傳導(dǎo)至對(duì)應(yīng)的光電探測(cè)器接收。光電探測(cè)器在反射光的作用下，產(chǎn)生微弱的電信號(hào)，該信號(hào)經(jīng)過信號(hào)控制處理系統(tǒng)放大后通過串口傳輸給上位機(jī)，在軟件中實(shí)現(xiàn)采集和處理等操作。

3.2 實(shí)驗(yàn)環(huán)境

實(shí)驗(yàn)環(huán)境處理器為Intel(R) Core(TM) i7-10 710U，GPU 型號(hào)為NVIDIA GeForce MX350，顯存為2 GB，深度學(xué)習(xí)開發(fā)環(huán)境為Pycharm+Tensorflow2.6.0，實(shí)驗(yàn)?zāi)Ｐ蛥?shù)如表2 所示。

表2 實(shí)驗(yàn)?zāi)Ｐ蛥?shù)Table 2 Parameters of experimental model

3.3 序列長(zhǎng)度對(duì)準(zhǔn)確率的影響

對(duì)于具有時(shí)間記憶特性的循環(huán)神經(jīng)網(wǎng)絡(luò)，序列長(zhǎng)度對(duì)模型準(zhǔn)確率的影響不可忽視。本節(jié)將討論不同序列長(zhǎng)度對(duì)模型準(zhǔn)確率的影響，實(shí)驗(yàn)使用同一數(shù)據(jù)集。本文以8 個(gè)不同序列長(zhǎng)度作為單一變量進(jìn)行模型訓(xùn)練及預(yù)測(cè)，最終準(zhǔn)確率如表3 所示。

通過對(duì)比表3 列出的相關(guān)數(shù)據(jù)可以發(fā)現(xiàn)，反射率預(yù)測(cè)準(zhǔn)確率并不與序列長(zhǎng)度呈簡(jiǎn)單正反相關(guān)趨勢(shì)，步長(zhǎng)為5 時(shí)準(zhǔn)確率達(dá)到峰值。從圖7 中可看出，在前期序列長(zhǎng)度增加時(shí)，模型準(zhǔn)確率總體呈上升趨勢(shì)，達(dá)到峰值后準(zhǔn)確率開始下降且此時(shí)訓(xùn)練時(shí)長(zhǎng)大幅增加，隨后訓(xùn)練時(shí)長(zhǎng)趨于穩(wěn)定，準(zhǔn)確率呈上升再回落的趨勢(shì)。

表3 序列長(zhǎng)度對(duì)準(zhǔn)確率和訓(xùn)練時(shí)間的影響Table 3 Effect of sequence length on accuracy and training time

圖7 序列長(zhǎng)度與準(zhǔn)確率和訓(xùn)練時(shí)間趨勢(shì)圖Fig. 7 Trend chart of sequence length, accuracy and training time

小范圍內(nèi)的序列長(zhǎng)度增加，可增加輸入?yún)?shù)的維度，從而提高模型的學(xué)習(xí)能力；而時(shí)間序列過長(zhǎng)后會(huì)導(dǎo)致訓(xùn)練時(shí)長(zhǎng)的增加，且易造成數(shù)據(jù)冗余，對(duì)模型準(zhǔn)確率產(chǎn)生負(fù)面貢獻(xiàn)。綜合表3 數(shù)據(jù)，序列長(zhǎng)度取5 較為合適。

3.4 不同模型及不同網(wǎng)絡(luò)層數(shù)對(duì)準(zhǔn)確率的影響

本節(jié)將2 種模型下不同層數(shù)的訓(xùn)練結(jié)果進(jìn)行對(duì)比，探討其對(duì)模型準(zhǔn)確率的影響。本節(jié)對(duì)比方式為：將同一數(shù)據(jù)集輸入模型，采用BP 神經(jīng)網(wǎng)絡(luò)和LSTM 網(wǎng)絡(luò)，每種模型分為3 種不同的網(wǎng)絡(luò)層數(shù)對(duì)比預(yù)測(cè)準(zhǔn)確率。

從表4 可看出，BP 神經(jīng)網(wǎng)絡(luò)由于不具有時(shí)間記憶特性，其預(yù)測(cè)準(zhǔn)確率明顯低于LSTM 網(wǎng)絡(luò)。通常情況下，網(wǎng)絡(luò)較為簡(jiǎn)單時(shí)，因其內(nèi)部神經(jīng)元層數(shù)較少，學(xué)習(xí)深度不夠，此時(shí)的準(zhǔn)確率較低；網(wǎng)絡(luò)過于復(fù)雜時(shí)，網(wǎng)絡(luò)層數(shù)偏多，學(xué)習(xí)能力增強(qiáng)的同時(shí)易造成欠擬合，準(zhǔn)確率下降。對(duì)于BP 網(wǎng)絡(luò)，模型預(yù)測(cè)準(zhǔn)確率隨著層數(shù)增加上升；而對(duì)于LSTM 網(wǎng)絡(luò)這種復(fù)雜循環(huán)記憶網(wǎng)絡(luò)來(lái)說(shuō)，3 層疊加已足夠復(fù)雜。從表4 中數(shù)據(jù)對(duì)比可知，隨著網(wǎng)絡(luò)層數(shù)的增加，訓(xùn)練時(shí)間亦會(huì)同時(shí)增加，層數(shù)為2 時(shí)，該模型的準(zhǔn)確率更高；而層數(shù)為1 時(shí)，模型的準(zhǔn)確率較低。由圖8 可看出，3 種模型均在迭代次數(shù)為25 左右時(shí)趨于收斂。其中，層數(shù)為2 時(shí)，模型的損失值下降最快；層數(shù)為3 時(shí)，模型收斂后的損失值波動(dòng)較大。綜上，本文認(rèn)為網(wǎng)絡(luò)層數(shù)為2 時(shí)的LSTM 網(wǎng)絡(luò)模型可達(dá)到最佳效果。

表4 網(wǎng)絡(luò)層數(shù)對(duì)準(zhǔn)確率和訓(xùn)練時(shí)間的影響Table 4 Effect of network layers on accuracy and training time

圖8 LSTM 網(wǎng)絡(luò)不同層數(shù)下的損失值對(duì)比Fig. 8 Comparison of loss values under different layers of LSTM network

3.5 模型泛化能力驗(yàn)證

模型的普適性是衡量一個(gè)模型是否合格的重要標(biāo)準(zhǔn)之一。本節(jié)使用3 種不同趨勢(shì)的數(shù)據(jù)集與對(duì)應(yīng)的模型預(yù)測(cè)集進(jìn)行對(duì)比分析，驗(yàn)證該模型在不同數(shù)據(jù)集下的泛化能力。圖9 為3 種不同趨勢(shì)下的預(yù)測(cè)值和真實(shí)值對(duì)比圖。

圖9 不同數(shù)據(jù)集下模型預(yù)測(cè)效果對(duì)比Fig. 9 Comparison of model prediction effects under different datasets

由圖9 綜合對(duì)比可看出，本模型在3 種不同數(shù)據(jù)集下表現(xiàn)良好，但在急劇上升后的平穩(wěn)階段，模型預(yù)測(cè)值的波動(dòng)較大。該問題可歸因于此種變化特征的反射率數(shù)據(jù)在訓(xùn)練集中所占數(shù)量較少，模型未能完全學(xué)習(xí)變化的規(guī)律。此外，圖9(b)和圖9(c)在初始階段的預(yù)測(cè)值也存在小幅度波動(dòng)。

4 結(jié)論

為了實(shí)現(xiàn)K2CsSb 光陰極制備中根據(jù)當(dāng)前陰極生長(zhǎng)狀態(tài)智能調(diào)整工藝參數(shù)以匹配高量子效率反射率曲線走勢(shì)，提出了一種基于LSTM 的反射率預(yù)測(cè)模型。LSTM 算法可充分提取數(shù)據(jù)中的時(shí)間與空間信息，提高神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)能力。通過實(shí)驗(yàn)表明，反射率序列存在短期的時(shí)間相關(guān)性，序列長(zhǎng)度為5、網(wǎng)絡(luò)層數(shù)為2 時(shí)模型的準(zhǔn)確率最高，為99.21%，過長(zhǎng)的時(shí)間序列或過多的網(wǎng)絡(luò)層數(shù)會(huì)造成訓(xùn)練時(shí)間的增加且導(dǎo)致準(zhǔn)確率下降。本模型在不同數(shù)據(jù)集下表現(xiàn)良好，但仍存在部分階段預(yù)測(cè)數(shù)據(jù)波動(dòng)的情況，后續(xù)可考慮增加數(shù)據(jù)集、改進(jìn)網(wǎng)絡(luò)結(jié)構(gòu)的方式對(duì)此問題進(jìn)行優(yōu)化。