智控系統(tǒng)在智能電力方面的安全性研究

國(guó)電電力寧夏新能源開發(fā)有限公司 郝益波

在日益數(shù)字化、智能化的時(shí)代，語(yǔ)音虛擬機(jī)器人在許多領(lǐng)域都可找到自己的位置。并且隨著電力智能化行業(yè)的發(fā)展，語(yǔ)音虛擬機(jī)器人也被應(yīng)用于智能控制方面，但是與任何具有重大影響的可行性技術(shù)變革一樣，語(yǔ)音智控也會(huì)迫在眉睫的受到來(lái)自外界的惡意指令影響。尤其是在自動(dòng)語(yǔ)音識(shí)別(ASR)方向，黑客可利用外部代理設(shè)備發(fā)送隱藏的語(yǔ)音指令或是信號(hào)來(lái)干涉語(yǔ)音虛擬機(jī)器人的正常運(yùn)行。

為了對(duì)抗和攔截這種惡意的信號(hào)指令，本文將惡意信號(hào)噪聲添加到原始聲音樣本中，并利用改進(jìn)的深度殘差收縮網(wǎng)絡(luò)（Deep Residual Shrinkage Networks，DRSN）結(jié)合連結(jié)主義時(shí)間分類CTC (Connectionist Temporal Classification)對(duì)惡意指令進(jìn)行實(shí)時(shí)檢測(cè)，為滿足實(shí)時(shí)性的需求本文引入了剪枝優(yōu)化方案，目的是為了減少網(wǎng)絡(luò)節(jié)點(diǎn)和硬件資源的消耗，同時(shí)也要兼顧保證準(zhǔn)確率性能指標(biāo)的波動(dòng)在可接受的范圍之內(nèi)。

隨著“雙碳計(jì)劃”進(jìn)行的如火如荼，各大新能源發(fā)電企業(yè)及運(yùn)營(yíng)企業(yè)在新能源集控系統(tǒng)領(lǐng)域深耕多年，新能源集控系統(tǒng)已取得了長(zhǎng)足發(fā)展。集控系統(tǒng)的講解多年來(lái)一直以人工講解為主，風(fēng)機(jī)遠(yuǎn)程控制也是以值長(zhǎng)的密碼、指紋等方式進(jìn)行，系統(tǒng)的控制及交互還在以傳統(tǒng)方式實(shí)現(xiàn)。為克服現(xiàn)有技術(shù)中關(guān)于新能源集控系統(tǒng)講解方式落后、交互方式及控制方式效率低的缺陷，達(dá)到對(duì)集控系統(tǒng)智能安全交互與智能控制的效果。在語(yǔ)音控制[1]的過(guò)程需兼顧防止惡意指令的侵入，電力控制的安全不能出現(xiàn)紕漏，因此在智控過(guò)程中需時(shí)刻監(jiān)控聲源信號(hào)的輸入以確?？刂七^(guò)程中的安全。

語(yǔ)音識(shí)別系統(tǒng)的攻擊在電力領(lǐng)域是較致命的。一些研究人員在惡意語(yǔ)音信號(hào)生成方面做了一些研究，可被借鑒于智慧電力的語(yǔ)音智控方面。Carlini等人（2016年）率先解決語(yǔ)音界面的安全問(wèn)題，并引入了所謂的隱藏語(yǔ)音命令[2]，證明了針對(duì)原始ASR系統(tǒng)的攻擊，僅基于隱馬爾可夫模型（HMM）是可行的。他們使用反向特征提取來(lái)創(chuàng)建模糊的對(duì)抗性惡意樣本[3]，這些樣本聽(tīng)起來(lái)像是隱藏在噪聲中高度失真的語(yǔ)音，人類很難理解。

1 算法原理概述

1.1 深度殘差收縮網(wǎng)絡(luò)原理

深度殘差收縮網(wǎng)絡(luò)是基于深度殘差網(wǎng)絡(luò)的一種改進(jìn)版本，在深度殘差網(wǎng)絡(luò)的基礎(chǔ)上該算法引入了軟閾值化的子網(wǎng)絡(luò)，主要思想是在算法特征學(xué)習(xí)的過(guò)程中自動(dòng)剔除多余的噪音數(shù)據(jù)，其算法原理如下：殘差模塊是構(gòu)成深度殘差網(wǎng)絡(luò)的基本單元，其中還有兩個(gè)標(biāo)準(zhǔn)化機(jī)制，作用是在模型訓(xùn)練過(guò)程中加快網(wǎng)絡(luò)的收斂速率、改善梯度彌散和提高網(wǎng)絡(luò)的泛化能力等。深度殘差收縮網(wǎng)絡(luò)面向的是帶有噪音信號(hào)的數(shù)據(jù)，可將噪聲數(shù)據(jù)理解為惡意對(duì)抗聲音信號(hào)，這里所降低的就是與原始聲音無(wú)關(guān)的噪聲數(shù)據(jù)。

軟閾值化。深度殘差網(wǎng)絡(luò)具備降噪功能的核心理念就是引入軟閾值化，作用是將輸入的數(shù)據(jù)朝零的方向開始?jí)嚎s，該算法思想被廣泛應(yīng)用于信號(hào)降噪過(guò)程中。深度殘差收縮在模型的訓(xùn)練過(guò)程中反向傳播，不僅可在卷積層間逐級(jí)反饋，也可在恒等映射層進(jìn)行反向傳播，更方便地訓(xùn)練出更優(yōu)質(zhì)的模型。

1.2 剪枝優(yōu)化的概述及原理

修剪神經(jīng)網(wǎng)絡(luò)的意義在于不降低其性能的情況下去除權(quán)重。本文所使用的網(wǎng)絡(luò)模型是深度收縮殘差網(wǎng)絡(luò)，為使網(wǎng)絡(luò)模型更適用于電力生產(chǎn)過(guò)程中的及時(shí)性需求。大多數(shù)情況下剪枝操作都會(huì)或多或少的對(duì)模型的準(zhǔn)確率性能有所影響，這需后期的經(jīng)驗(yàn)對(duì)模型進(jìn)行微調(diào)，剪枝策略和閾值設(shè)置對(duì)剪枝效果也有一定的影響。

2 惡意語(yǔ)音檢測(cè)實(shí)驗(yàn)

2.1 連接主義時(shí)間分類（CTC）

自動(dòng)語(yǔ)音識(shí)別一般可看作一個(gè)序列到另一個(gè)序列的問(wèn)題：系統(tǒng)必須學(xué)習(xí)如何從語(yǔ)音中提取聲學(xué)特征X作為輸入序列、從而生成單詞Y的輸出序列，這個(gè)過(guò)程也被稱為轉(zhuǎn)錄[4]。ASR模型本質(zhì)上是概率性的，旨在計(jì)算后驗(yàn)分布p(Y|X)，等價(jià)于在給定語(yǔ)音特征序列X的前提下求最可能得到的序列Y。相反端到端ASR旨在將這種基于模塊的方法簡(jiǎn)化為深度學(xué)習(xí)框架內(nèi)的單一網(wǎng)絡(luò)架構(gòu)，在端到端模型中多個(gè)模塊合并在一個(gè)深度網(wǎng)絡(luò)中聯(lián)合訓(xùn)練，該網(wǎng)絡(luò)實(shí)現(xiàn)了聲信號(hào)到輸出標(biāo)簽序列的實(shí)際映射。

CTC是一種避免輸入和輸出序列之間的對(duì)齊方法，因此它是無(wú)對(duì)齊的。本質(zhì)上它利用馬爾可夫猜想通過(guò)動(dòng)態(tài)規(guī)劃有效地解決了順序問(wèn)題，通過(guò)計(jì)算不同的路徑來(lái)計(jì)算所有可能的硬對(duì)齊，然后通過(guò)聚集硬對(duì)齊來(lái)實(shí)現(xiàn)軟對(duì)齊，當(dāng)枚舉硬對(duì)齊時(shí)CTC假設(shè)輸出標(biāo)簽是相互獨(dú)立的。

2.2 惡意語(yǔ)音檢測(cè)的實(shí)現(xiàn)

2.2.1 利用殘差收縮網(wǎng)絡(luò)模型進(jìn)行檢測(cè)

將語(yǔ)音樣本轉(zhuǎn)化為聲紋特征圖譜，聲紋特征圖譜是由聲音的強(qiáng)度、波長(zhǎng)等信息組成的，具有唯一性可測(cè)量性等特征。本文將含1萬(wàn)份惡意指令的音頻和1萬(wàn)份正常音頻轉(zhuǎn)化聲紋特征圖譜，再將其輸入到已經(jīng)構(gòu)建好的深度殘差收縮網(wǎng)絡(luò)中進(jìn)行訓(xùn)練，得到經(jīng)過(guò)剪枝后的訓(xùn)練模型。與利用殘差網(wǎng)絡(luò)訓(xùn)練的模型相比，該模型所用的數(shù)據(jù)是成對(duì)存在的，分別是訓(xùn)練的時(shí)序數(shù)據(jù)和標(biāo)簽數(shù)據(jù)，目的就是找到一個(gè)時(shí)序分類器將樣本進(jìn)行分類。CTC的放置位置在雙向遞歸網(wǎng)絡(luò)的后面作為序列預(yù)測(cè)的損失來(lái)源，CTC會(huì)在學(xué)習(xí)過(guò)程中選擇一條好的路徑。

2.2.2 實(shí)驗(yàn)過(guò)程及結(jié)果

本實(shí)驗(yàn)利用改進(jìn)的殘差網(wǎng)絡(luò)收縮算法，選取參雜惡意信號(hào)音頻和正常音頻進(jìn)行預(yù)訓(xùn)練，在訓(xùn)練過(guò)程中采取學(xué)習(xí)率衰減的辦法來(lái)進(jìn)行訓(xùn)練，再進(jìn)行稀疏訓(xùn)練。在后續(xù)訓(xùn)練過(guò)程中需不斷調(diào)整壓縮率和學(xué)習(xí)率，實(shí)現(xiàn)模型壓縮效率和模型性能指標(biāo)間的平衡。稀疏訓(xùn)練結(jié)束后就是剪枝操作，對(duì)數(shù)據(jù)通道進(jìn)行剪枝，本文利用剪枝腳本進(jìn)行剪枝的實(shí)驗(yàn)，該腳本融合了通道剪枝的策略減去了65%的通道，模型由之前的262.2M壓縮到91.77M，模型性能由原來(lái)的0.94降低到0.92，降低幅度在可接受范圍內(nèi)。

3 總結(jié)與展望

本文在深度收縮殘差網(wǎng)絡(luò)中引入CTC子網(wǎng)絡(luò)，并在該基礎(chǔ)上做出量相關(guān)的改進(jìn)，從而提高了模型的性能，另外還對(duì)訓(xùn)練好的模型進(jìn)行剪枝相關(guān)操作以滿足電力智控行業(yè)的實(shí)時(shí)性要求。實(shí)驗(yàn)表明該方法在電力智控行業(yè)防范惡意語(yǔ)音侵入方面有一定效果：選取深度殘差收縮網(wǎng)絡(luò)作為語(yǔ)音輸入識(shí)別主體算法的原因，是為利用該算法的注意力機(jī)制摒棄語(yǔ)音輸入過(guò)程中的噪聲，提高語(yǔ)音數(shù)據(jù)的質(zhì)量；為適應(yīng)電力行業(yè)對(duì)智控的實(shí)時(shí)性，提出利用剪枝優(yōu)化的方法對(duì)模型進(jìn)行通道剪枝以縮小模型的體積。模型體積減小的優(yōu)勢(shì)不僅在于響應(yīng)更為及時(shí)，也可遷移到移動(dòng)設(shè)備端進(jìn)行檢測(cè)。

無(wú)論在電力智能語(yǔ)控還是其他方面，都需做到對(duì)入侵信息動(dòng)態(tài)監(jiān)視，基于策略的攔截在面對(duì)大量紛繁數(shù)據(jù)時(shí)會(huì)顯得力不從心，因此保護(hù)系統(tǒng)不被侵入在電力系統(tǒng)的安全運(yùn)行中意義重大。作為新一代信息技術(shù)高度集成和綜合應(yīng)用，人工智能既符合互聯(lián)網(wǎng)技術(shù)的發(fā)展潮流，又滿足當(dāng)下的實(shí)用需求。