基于神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)模型的目標(biāo)識(shí)別方法研究

摘要：隨著人工智能技術(shù)的進(jìn)一步發(fā)展及其在諸多領(lǐng)域的廣泛應(yīng)用，以模式識(shí)別為應(yīng)用需求的目標(biāo)識(shí)別也成為了當(dāng)前的研究熱點(diǎn)。本文首先探討了機(jī)器學(xué)習(xí)中主流的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)模型，并以BP神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)，將其作為基學(xué)習(xí)器，分析研究了集成學(xué)習(xí)模型，提出了基于BP神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)模型的目標(biāo)識(shí)別方法，從而為復(fù)雜環(huán)境下更為精準(zhǔn)化的目標(biāo)模式識(shí)別提供了一定的參考依據(jù)。

關(guān)鍵詞：BP神經(jīng)網(wǎng)絡(luò)；基學(xué)習(xí)器；迭代學(xué)習(xí)；集成模型；目標(biāo)識(shí)別

隨著多源信息技術(shù)的進(jìn)一步發(fā)展，目標(biāo)識(shí)別技術(shù)也已成為當(dāng)前模式識(shí)別領(lǐng)域的一個(gè)重要研究方向[1]。而目標(biāo)信息所呈現(xiàn)出的多樣化和海量化的特點(diǎn)，也給精準(zhǔn)化的目標(biāo)識(shí)別帶來(lái)了挑戰(zhàn)[2]。在基于數(shù)據(jù)驅(qū)動(dòng)的諸多目標(biāo)識(shí)別方法中，基于統(tǒng)計(jì)分析的方法有著廣泛的應(yīng)用領(lǐng)域。而傳統(tǒng)的基于統(tǒng)計(jì)分析的方法主要有主成分分析方法[3]（Principal Component Analysis），又稱(chēng)為主元分析，簡(jiǎn)稱(chēng)為PCA，該方法統(tǒng)計(jì)分析方法中的一種常用的數(shù)據(jù)分析方法。PCA也是一種常用的數(shù)據(jù)降維方法，其基本思想是，按照重要性的不同，從一組數(shù)據(jù)特征中計(jì)算得到新的維度空間的新的數(shù)據(jù)特征，并將其按從大到小的順序進(jìn)行排列，所得到的新的特征作為原有維度空間數(shù)據(jù)的線性組合，表征著彼此不相關(guān)的特性。而原有數(shù)據(jù)樣本在新的維度空間上的特征映射也即為降維后的新的數(shù)據(jù)樣本?？梢钥闯?，PCA就是用一組正交向量對(duì)原維度空間的數(shù)據(jù)特征進(jìn)行空間變換從而得到新的維度空間的數(shù)據(jù)特征。原始數(shù)據(jù)通過(guò)PCA的這種線性變換，可以提取出數(shù)據(jù)的主要特征，而新的維度空間的數(shù)據(jù)要在數(shù)據(jù)降維需求的基礎(chǔ)上，還要盡可能的保留原有空間數(shù)據(jù)的信息，因而，就需要在新的維度特征中選取出其前n個(gè)能夠表征原空間數(shù)據(jù)信息的最大主元。PCA方法可以有效的消除原始數(shù)據(jù)之間的冗余性，降低數(shù)據(jù)處理的復(fù)雜性，但由于其空間降維的特點(diǎn)，也使得PCA在某些情況下會(huì)造成某些重要的數(shù)據(jù)信息丟失的情況。

而隨著人工智能技術(shù)的發(fā)展，各種人工智能技術(shù)的目標(biāo)識(shí)別方法也相繼提出，基于機(jī)器學(xué)習(xí)的目標(biāo)識(shí)別方法也逐漸展現(xiàn)出其在各個(gè)應(yīng)用領(lǐng)域中的優(yōu)勢(shì)。常用的機(jī)器學(xué)習(xí)方法有K近鄰、支持向量機(jī)、隨機(jī)森林和神經(jīng)網(wǎng)絡(luò)等。本文就是使用當(dāng)前較為主流的神經(jīng)網(wǎng)絡(luò)技術(shù)，研究探討基于神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)的目標(biāo)識(shí)別方法。

1 目標(biāo)識(shí)別

目標(biāo)識(shí)別是相對(duì)于目標(biāo)跟蹤而言的一個(gè)更為廣泛的概念，是指在基于多個(gè)目標(biāo)傳感器所獲取的目標(biāo)屬性數(shù)據(jù)信息的基礎(chǔ)上，使用相關(guān)的數(shù)據(jù)組合方法，所得到的關(guān)于目標(biāo)身份信息的屬性識(shí)別。由于所涉及的目標(biāo)傳感器的種類(lèi)繁多，因而所獲取到的目標(biāo)屬性數(shù)據(jù)在某些情況下也會(huì)很多，因而在目標(biāo)識(shí)別中，將會(huì)出現(xiàn)維度較高的特征變量及特征數(shù)據(jù)。而隨著當(dāng)前人工智能技術(shù)的進(jìn)一步發(fā)展，目標(biāo)識(shí)別過(guò)程中所涉及到相關(guān)數(shù)據(jù)組合方法，主要是多源數(shù)據(jù)融合式的模式識(shí)別方法。模式作為所識(shí)別目標(biāo)在時(shí)間和空間中所展現(xiàn)出的一種屬性分布信息，使用計(jì)算機(jī)能夠?qū)ζ溥M(jìn)行模式的分類(lèi)，即模式識(shí)別就是將目標(biāo)根據(jù)其模式屬性的不同劃分到所對(duì)應(yīng)的類(lèi)別中。

2 神經(jīng)網(wǎng)絡(luò)及其結(jié)構(gòu)形式

2.1 神經(jīng)網(wǎng)絡(luò)

作為人工智能領(lǐng)域的一個(gè)研究熱點(diǎn)，神經(jīng)網(wǎng)絡(luò)（Neural Network，NN）從其產(chǎn)生之時(shí)就得到了國(guó)內(nèi)外的廣泛關(guān)注，而神經(jīng)網(wǎng)絡(luò)也以其獨(dú)特的性能優(yōu)勢(shì)在諸多行業(yè)領(lǐng)域有著廣泛的應(yīng)用。準(zhǔn)確的說(shuō)，本文所指的神經(jīng)網(wǎng)絡(luò)，也就是人工神經(jīng)網(wǎng)絡(luò)，即是在生物神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上，模仿生物神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和思維、記憶等相關(guān)功能，從而設(shè)計(jì)出的用以進(jìn)行數(shù)據(jù)信息處理的一種數(shù)學(xué)運(yùn)算模型。通過(guò)該數(shù)學(xué)運(yùn)算模型對(duì)數(shù)據(jù)信息進(jìn)行相關(guān)的非線性處理，能夠?qū)崿F(xiàn)相關(guān)功能。類(lèi)似于生物神經(jīng)網(wǎng)絡(luò)，人工神經(jīng)網(wǎng)絡(luò)也是有大量的被稱(chēng)為神經(jīng)元的節(jié)點(diǎn)逐層地相互連接而構(gòu)成的，神經(jīng)元節(jié)點(diǎn)負(fù)責(zé)數(shù)據(jù)信息的保存和更新，而不同層的神經(jīng)元節(jié)點(diǎn)與節(jié)點(diǎn)之間的連接也對(duì)應(yīng)有一個(gè)稱(chēng)為權(quán)重的參數(shù)?？梢钥闯?，神經(jīng)元是神經(jīng)網(wǎng)絡(luò)處理數(shù)據(jù)信息的基本單元。為了是神經(jīng)網(wǎng)絡(luò)更符合現(xiàn)實(shí)世界的信息表達(dá)特性，在不同網(wǎng)絡(luò)層所連接的節(jié)點(diǎn)之間增加激勵(lì)函數(shù)（activation function），將線性輸入轉(zhuǎn)換為非線性的函數(shù)關(guān)系，通過(guò)這種非線性因素的引入從而給神經(jīng)網(wǎng)絡(luò)增加了更為豐富的數(shù)據(jù)表達(dá)能力。神經(jīng)網(wǎng)絡(luò)中常用的非線性激勵(lì)函數(shù)有sigmoid函數(shù)、tanh函數(shù)以及relu函數(shù)等。

2.2 神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)

神經(jīng)網(wǎng)絡(luò)在其結(jié)構(gòu)形式上采用多層的結(jié)構(gòu)形式，即神經(jīng)元按其功能的不同分為輸入層、隱藏層和輸出層[4]。其中神經(jīng)網(wǎng)絡(luò)的輸入層和輸出層都僅為一層，而隱藏層可以有多層。由此可以看出，神經(jīng)網(wǎng)絡(luò)最簡(jiǎn)單的結(jié)構(gòu)形式就是三層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，即僅有一個(gè)隱藏層的結(jié)構(gòu)。同一層中的各個(gè)神經(jīng)元節(jié)點(diǎn)彼此不相連，而相鄰層間的神經(jīng)元節(jié)點(diǎn)則彼此相連。在神經(jīng)網(wǎng)絡(luò)的各層中，輸入層的神經(jīng)元節(jié)點(diǎn)根據(jù)其設(shè)計(jì)功能，是用來(lái)接收外部的輸入數(shù)據(jù)的，通過(guò)輸入層所接收到輸數(shù)據(jù)，進(jìn)而傳輸?shù)缴窠?jīng)網(wǎng)絡(luò)中間隱藏層的各神經(jīng)元節(jié)點(diǎn)進(jìn)行處理，經(jīng)過(guò)所有隱藏層處理后的數(shù)據(jù)傳輸?shù)骄W(wǎng)絡(luò)輸出層進(jìn)行輸出顯示。這里作為數(shù)據(jù)處理單元的中間隱藏層，只負(fù)責(zé)數(shù)據(jù)的運(yùn)算處理和網(wǎng)絡(luò)內(nèi)部的傳輸，而與網(wǎng)絡(luò)結(jié)構(gòu)外部的輸入和輸出并不存在直接的連接關(guān)系。

2.3 BP神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)中使用最為廣泛的一種網(wǎng)絡(luò)形式就是反向傳播神經(jīng)網(wǎng)絡(luò)（Back-Propagation），即BP神經(jīng)網(wǎng)絡(luò)[5]。BP神經(jīng)網(wǎng)絡(luò)在其設(shè)計(jì)和實(shí)現(xiàn)上以通用逼近定理為基礎(chǔ)，即通過(guò)在數(shù)據(jù)樣本下的迭代式學(xué)習(xí)，進(jìn)而訓(xùn)練出能夠逼近任意函數(shù)的網(wǎng)絡(luò)。在具體實(shí)現(xiàn)上，BP神經(jīng)網(wǎng)絡(luò)采用反向傳播算法，能夠用于神經(jīng)網(wǎng)絡(luò)的參數(shù)更新以及調(diào)節(jié)神經(jīng)網(wǎng)絡(luò)內(nèi)部各個(gè)不同層間節(jié)點(diǎn)間的連接關(guān)系，從而得到整個(gè)網(wǎng)絡(luò)的數(shù)據(jù)輸入與數(shù)據(jù)輸出之間的函數(shù)映射關(guān)系。也正因?yàn)锽P神經(jīng)網(wǎng)絡(luò)的這種反向傳播特性，使得神經(jīng)網(wǎng)絡(luò)具備了自組織學(xué)習(xí)和自適應(yīng)的能力。

BP神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)和自適應(yīng)可分為工作信號(hào)的前向傳播以及誤差信號(hào)的反向傳播兩個(gè)過(guò)程。其中，工作信號(hào)的前向傳播過(guò)程即為數(shù)據(jù)信號(hào)通過(guò)輸入層進(jìn)入神經(jīng)網(wǎng)絡(luò)，在神經(jīng)網(wǎng)絡(luò)中經(jīng)過(guò)單個(gè)隱藏層或者多個(gè)隱藏層的數(shù)據(jù)處理并到達(dá)輸出層，在輸出層輸出經(jīng)過(guò)處理的輸出信號(hào)，在數(shù)據(jù)的這一前向傳播過(guò)程中，神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)權(quán)值保持不變，而每個(gè)神經(jīng)元所儲(chǔ)存的數(shù)據(jù)信息只受到其上層連接神經(jīng)元所傳送的數(shù)據(jù)與所對(duì)應(yīng)的網(wǎng)絡(luò)權(quán)值的影響，并將其所更新后的數(shù)據(jù)信息傳送到下層神經(jīng)元，以這樣的前向傳播方式在輸出層所得到的輸出數(shù)據(jù)如果滿(mǎn)足條件，則學(xué)習(xí)訓(xùn)練過(guò)程結(jié)束，而如果輸出數(shù)據(jù)與期望輸出之間存在較大的誤差，則進(jìn)行誤差信號(hào)的反向傳播過(guò)程。所謂誤差信號(hào)，就是神經(jīng)網(wǎng)絡(luò)的實(shí)際輸出與期望輸出之間的誤差值，而該誤差值如果大于某一預(yù)先設(shè)定的網(wǎng)絡(luò)閾值時(shí)，則需要進(jìn)行誤差信號(hào)的反向傳播。在反向傳播時(shí)，誤差信號(hào)從輸出層開(kāi)始反向地逐層向前進(jìn)行數(shù)據(jù)的傳輸，而在逐層前向傳播過(guò)程中，各層的網(wǎng)絡(luò)權(quán)值也將會(huì)根據(jù)誤差信號(hào)的反饋信息進(jìn)行自適應(yīng)的調(diào)整，以滿(mǎn)足誤差逐漸降低的需求，亦即通過(guò)網(wǎng)絡(luò)權(quán)值不斷的自適應(yīng)調(diào)整，使整個(gè)神經(jīng)網(wǎng)絡(luò)的實(shí)際輸出與期望輸出之間的誤差逐漸減小，實(shí)際輸出也逐漸接近期望輸出。

可以看出，BP神經(jīng)網(wǎng)絡(luò)的前向傳播和反向傳播是一個(gè)反復(fù)交替的迭代式的自學(xué)習(xí)過(guò)程，通過(guò)這個(gè)學(xué)習(xí)過(guò)程的反復(fù)迭代，從而獲取到能夠滿(mǎn)足實(shí)際需求的網(wǎng)絡(luò)權(quán)值參數(shù)，并使得網(wǎng)絡(luò)的實(shí)際輸出和期望輸出之間的誤差處于允許范圍之內(nèi)。

3 神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)模型

單一的學(xué)習(xí)模型（即基學(xué)習(xí)器）只能在其一種模型下預(yù)測(cè)出識(shí)別結(jié)果，而與基學(xué)習(xí)器相比，集成學(xué)習(xí)模型能夠?qū)⒍鄠€(gè)不同的基學(xué)習(xí)器的多個(gè)預(yù)測(cè)識(shí)別結(jié)果通過(guò)相關(guān)的決策融合規(guī)則進(jìn)行有機(jī)地結(jié)合，從而通過(guò)所融合的集成學(xué)習(xí)模型獲取到比基學(xué)習(xí)器更為準(zhǔn)確的識(shí)別結(jié)果?？梢钥闯觯蓪W(xué)習(xí)其本身并不是單獨(dú)的機(jī)器學(xué)習(xí)算法，而是集成了多個(gè)基學(xué)習(xí)器，并且其效果和性能也要優(yōu)于各個(gè)不同的基學(xué)習(xí)器。集成學(xué)習(xí)模型的設(shè)計(jì)能夠有效地提升學(xué)習(xí)模型的預(yù)測(cè)識(shí)別準(zhǔn)確率，同時(shí)還能夠通過(guò)不同基學(xué)習(xí)器所存在的差異性從而避免網(wǎng)絡(luò)學(xué)習(xí)模型的過(guò)擬合。而隨著近年來(lái)集成學(xué)習(xí)技術(shù)的進(jìn)一步發(fā)展，各種不同的性能優(yōu)越的集成學(xué)習(xí)模型也隨之出現(xiàn)，使得目標(biāo)的識(shí)別準(zhǔn)確率有了一定的提升。

本文在基于BP神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上，以具有相同網(wǎng)絡(luò)結(jié)構(gòu)的兩個(gè)BP神經(jīng)網(wǎng)絡(luò)為基學(xué)習(xí)器，提出一種基于雙BP神經(jīng)網(wǎng)絡(luò)的集成學(xué)習(xí)模型，如圖1所示。

從圖1 中可以看出，本文所構(gòu)建的BP神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)模型由兩個(gè)BP神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器所組成，通過(guò)分別對(duì)兩個(gè)BP神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器進(jìn)行迭代式的學(xué)習(xí)訓(xùn)練，得到不同的具有差異性的兩個(gè)基學(xué)習(xí)器模型，并在此基礎(chǔ)上，進(jìn)一步構(gòu)建BP神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)模型。在具體實(shí)現(xiàn)上，首先將待識(shí)別目標(biāo)的主要識(shí)別特征信息作為輸入數(shù)據(jù)樣本，分別輸入到BP神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器1和BP神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器2中，采用隨機(jī)化的初始權(quán)重值和閾值等網(wǎng)絡(luò)參數(shù)以及非線性激勵(lì)函數(shù)對(duì)兩個(gè)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行并行的迭代式學(xué)習(xí)訓(xùn)練，以獲取到收斂的網(wǎng)絡(luò)狀態(tài)及相關(guān)的權(quán)值參數(shù)。而又由于網(wǎng)絡(luò)參數(shù)初始化的隨機(jī)性，使得所訓(xùn)練好的兩個(gè)BP神經(jīng)網(wǎng)絡(luò)參數(shù)集并不相同，因而其作為基學(xué)習(xí)器，分類(lèi)識(shí)別的預(yù)測(cè)結(jié)果可能并不相同。這時(shí)，將兩個(gè)BP神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器進(jìn)行集成，通過(guò)對(duì)具有不同差異性的兩個(gè)BP神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器所輸出的結(jié)果進(jìn)行融合，從而構(gòu)建了集成學(xué)習(xí)模型。

在集成學(xué)習(xí)模型的決策融合方法中，常用的有投票法和平均法，這兩種方法是分別針對(duì)分類(lèi)預(yù)測(cè)和回歸預(yù)測(cè)而言的。其中投票法又分為簡(jiǎn)單投票法、加權(quán)投票法以及概率投票法等三種方法，而平均法則又分為簡(jiǎn)單平均法和加權(quán)平均法兩種方法。而考慮到目標(biāo)識(shí)別是對(duì)目標(biāo)的類(lèi)型進(jìn)行識(shí)別預(yù)測(cè)的，而目標(biāo)類(lèi)型屬于分類(lèi)預(yù)測(cè)，因而使用集成學(xué)習(xí)決策融合方法中的投票法對(duì)集成學(xué)習(xí)模型的識(shí)別結(jié)果進(jìn)行分類(lèi)預(yù)測(cè)。同時(shí)，考慮到本文所提出雙BP神經(jīng)網(wǎng)絡(luò)集成模型的特殊性，使用簡(jiǎn)單投票法并不能對(duì)分類(lèi)識(shí)別結(jié)果做出很好的預(yù)測(cè)，因而可以采用加權(quán)投票法和概率投票法兩種方法，即以適當(dāng)?shù)耐镀睓?quán)值或是概率來(lái)預(yù)測(cè)集成學(xué)習(xí)模型的識(shí)別結(jié)果。

4 結(jié)語(yǔ)

隨著多源信息技術(shù)和人工智能技術(shù)的發(fā)展，精準(zhǔn)化的目標(biāo)識(shí)別在當(dāng)前的諸多前沿應(yīng)用領(lǐng)域成為了一個(gè)重要的研究方向。而面對(duì)日益復(fù)雜化和多元化的不同的應(yīng)用環(huán)境，如何提高對(duì)多源復(fù)雜信息的甄別能力以及對(duì)目標(biāo)識(shí)別的準(zhǔn)確率，也成為了目標(biāo)識(shí)別問(wèn)題中的一個(gè)挑戰(zhàn)。本文以當(dāng)前人工智能領(lǐng)域中主流的機(jī)器學(xué)習(xí)為技術(shù)背景，將機(jī)器學(xué)習(xí)中的BP神經(jīng)網(wǎng)絡(luò)作為研究出發(fā)點(diǎn)，在分析BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的基礎(chǔ)上，探討了BP神經(jīng)網(wǎng)絡(luò)的迭代式學(xué)習(xí)過(guò)程，并以提高目標(biāo)識(shí)別的準(zhǔn)確率為需求，將BP神經(jīng)網(wǎng)絡(luò)作為基學(xué)習(xí)器，提出了基于神經(jīng)網(wǎng)絡(luò)集成模型的目標(biāo)識(shí)別方法，通過(guò)該方法及相關(guān)模型的構(gòu)建，能夠在一定程度上改善和提升目標(biāo)識(shí)別模型的性能，同時(shí)也為復(fù)雜環(huán)境下的精準(zhǔn)化目標(biāo)識(shí)別提供了參考。

參考文獻(xiàn)

[1]宮法明，李翛然，馬玉輝.復(fù)雜場(chǎng)景下的運(yùn)動(dòng)目標(biāo)識(shí)別算法[J].計(jì)算機(jī)系統(tǒng)應(yīng)用，2018，27（08）：193-197.

[2]王璐.一種基于模糊控制的多傳感器管理算法的研究[J].電子設(shè)計(jì)工程，2018，26（21）：47-51.

[3]張秀琴， 陳立潮， 潘理虎. 基于DCT和分塊2D2PCA的人臉識(shí)別[J]. 太原科技大學(xué)學(xué)報(bào)， 2014（5）：333-338.

[4]李雋，王偉.遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)在圖像目標(biāo)識(shí)別中的應(yīng)用研究[J].現(xiàn)代電子技術(shù)，2017，40（20）：111-113.

[5]龔晗義，蘇賦文，高漢軍.基于改進(jìn)遺傳算法和BP神經(jīng)網(wǎng)絡(luò)的人臉識(shí)別方法[J].武漢理工大學(xué)學(xué)報(bào)（信息與管理工程版），2018，40（05）：498-502.