基于識別模型泛化能力的目標識別算法簡析

王 晶，莫緒軍，朱常玉

（品茗科技股份有限公司，浙江 杭州）

引言

設(shè)計基于識別模型泛化能力提高的目標識別算法要充分分析當前跨域識別問題和需求，將統(tǒng)計學習作為基礎(chǔ)，設(shè)定概率分布適配方法，著力解決傳統(tǒng)目標識別方法中只能借助目標域數(shù)據(jù)的聚類結(jié)構(gòu)分布適配的問題。運用結(jié)構(gòu)化聯(lián)合分布適配方法，建立條件聯(lián)合分布模型，修正分布差異，以此保證算法具備高泛化能力。因此，下文將重點就目標識別算法模型構(gòu)建與驗證展開深入分析。

1 基于識別模型泛化能力的目標識別算法模型構(gòu)建

1.1 算法框架

學習目標可分成降低源域損失ls（Xs，Ys）以及縮小目標域與源域數(shù)據(jù)分布距離d（Xs，Xt）兩部分，所設(shè)計的學習框架為：

其中，函數(shù)框架的關(guān)鍵在于如何縮小d（Xs，Xt）數(shù)值[1]。根據(jù)條件分布距離和邊緣分布距離，設(shè)定源域與目標域分別為Ds與Dt，所對應(yīng)的概率分布分別為ps和同時分別為ps和pt采集樣本，其中M 為樣本維度[2]。設(shè)定特征變換函數(shù)，設(shè)計目標域數(shù)據(jù)與定義源域數(shù)據(jù)間的邊緣分布距離公式為：

式中：φ 和i 分別代表目標域和源域樣本數(shù)量。計算是將參數(shù)改變，能夠得到最小值，此值即為邊緣分布適配[3]。同理可得當存在目標域與源域樣本標簽是同時對應(yīng)的目標域與定義源域條件分布距離公式為：

式中：λ為權(quán)重系數(shù)，且djoin（Xs，Xt）=dmar（Xs，Xt）+dcnd（Xs，Xt）。

1.2 模型建立

基于目標識別泛化能力提高設(shè)計目標識別算法要引入SJDA 模型，經(jīng)過優(yōu)化，所得到的總體目標函數(shù)為：

第一、二項分別為源域識別損失函數(shù)和聯(lián)合分布差異djoin=dmar+dcnd，θφ, θW,θcls為參數(shù)，λ 為權(quán)重系數(shù)。分別從訓練預(yù)識別模型、預(yù)測結(jié)構(gòu)化偽標簽和優(yōu)化整體目標函數(shù)方向?qū)υ心Ｐ陀枰酝晟疲罱K得到的第二項形式為：

式中：μ 為懲罰因子，ht，hs代表從目標域和源域所提取的樣本特征，來源于特征提取模塊，且按照Lipschitz約束要求，Pgrad符合梯度懲罰項設(shè)置需要，滿足為滿足目標域與源域聯(lián)合分布適配需求，應(yīng)當保證聯(lián)合分布差異取最小值，運用梯度下降法，調(diào)整參數(shù)，并循環(huán)迭代步驟：（1）執(zhí)行迭代；（2）利用源域樣本集合（Xs，Y）s優(yōu)化式的第一項，初步學習fφ和fcls；（3）用偽標簽預(yù)測算法為目標域樣本Xt預(yù)測偽標簽，達到收斂整個過程的效果[5]。

1.3 誤差邊界估計與分析

運用統(tǒng)計學習理論，估計并分析所設(shè)計目標識別算法的誤差邊界。假定識別模型f=F，使得，將其作為假設(shè)函數(shù)，其中為F 函數(shù)空間。設(shè)置識別模型的VC維為d，期望風險分別位于目標域和源域上，用符號εs（f）和εt（f）分別代表。并且設(shè)定目標域與源域的分布散度為dHΔH。由此，根據(jù)公式：

可以準確分析識別算法模型目標域與源域期望風險，其中，式中Ω、e、n 分別代表理想聯(lián)合假設(shè)的期望風險、自然對數(shù)基底和訓練樣本數(shù)量[6]。

通過估計目標域與源域標簽樣本可得到期望風險，引入偽標簽計算最終數(shù)值，以此近似等于真實情況下的聯(lián)合假設(shè)期望風險。令作為目標域數(shù)據(jù)集合，nt表示樣本與偽標簽共同組成，代表無標簽?zāi)繕擞驑颖緮?shù)量。根據(jù)假設(shè)函數(shù)，其所對應(yīng)的期望風險符合≤ρ關(guān)系，預(yù)測錯誤率用ρ 表示。最終形成的誤差邊界計算公式為：

本研究所設(shè)計的目標識別模型可從以下兩方面達到優(yōu)化效果：

（2）此種算法符合結(jié)構(gòu)化偽標簽預(yù)測算法，整體能夠?qū)崿F(xiàn)錯誤預(yù)測率降低的目標，可對不等式最后一項予以縮小。

總的來看，基于識別泛化能力所設(shè)計的目標識別算法具備可行性和正確性，能夠展示出良好理論誤差邊界特性，滿足跨域識別基本要求。

2 基于識別模型泛化能力的目標識別算法性能驗證與結(jié)果分析

上文闡釋了于識別泛化能力所設(shè)計的目標識別算法基本模型，為切實從嚴謹角度衡量此算法是否可行，需采取性能驗證辦法，在選定性能驗證手段后，設(shè)置實驗參數(shù)。經(jīng)過計算，生成與其他方法對比的結(jié)果，從數(shù)據(jù)角度判定目標識別算法是否實用。性能評價與結(jié)果分析的具體過程如下：

2.1 性能評價

運用通用跨域識別算法評估協(xié)議基本方法優(yōu)化性能評價任務(wù)，設(shè)計12 組任務(wù)，分別為：C→I、I→C、C→P、P→C、C→B、B→C、I→P、P→I、I→B、B→I、P→B、B→P 和A→W、D→W、W→D、A→D、D→A、W→A、A→C、W→C、D→C、C→A、C→W、C→D。并使用平均準確率評價算法識別性能，對應(yīng)的公式是：

式中：N、I 分別表示樣本總數(shù)和指標函數(shù)。通過計算平均準確率均值判定算法性能，對應(yīng)公式為：

式中：ntask表示跨域識別任務(wù)總數(shù)。

2.2 結(jié)果分析

本研究設(shè)置10 次實驗，將基于CNN、JDA、LCS 設(shè)計的算法性能驗證結(jié)果與本研究所提出基于提高識別泛化能力的算法性能驗證對比，結(jié)果于表1 和2 出示。

通過讀表能夠發(fā)現(xiàn)，基于識別目標泛化能力提高所設(shè)計的算法模型性能優(yōu)越，相較于CNN 方法，此種算法可達到mAAc8.6%的提升，且準確率高于其他算法，具備泛化能力高的特點。另外，相對于CNN 方法，基于識別目標泛化能力提高所設(shè)計的算法在實際運用中，平均識別準確率降低了1.3%左右，該方式在具體運用中性能影響程度較低，在使用時整體性能超出了CNN 方法，在本次研究中通過網(wǎng)絡(luò)學習特征關(guān)系，提升識別性能。除此之外，基于識別目標泛化能力提高所設(shè)計的算法在運用中超出了LSC 方式，主要是由于基于識別目標泛化能力提高所設(shè)計的算法在運用中具備域不變性的特征，模型的跨域識別性能得到了有效提高，可滿足識別泛化能力需求。根據(jù)表2 實驗結(jié)果分析，基于識別目標泛化能力提高所設(shè)計的算法中，SJAD、LSC、JDA 以及CNN 等目標識別算法的使用，對于識別性能所產(chǎn)生的影響存在差異性，可以在不同條件下合理運用以上方式，也表明了SJAD、LSC、JDA 以及CNN 技術(shù)的應(yīng)用具有合理性與重要性。

表2 借助物體分類實驗Office-Caltech 數(shù)據(jù)集各算法的實驗對比結(jié)果（%）

根據(jù)以上實驗表明，在對基于泛化能力的目標識別算法中，對各項技術(shù)提升泛化能力的貢獻進行研究時，通過屬性特征以及不同特征之間的關(guān)系，直觀地表明了基于識別目標泛化能力提高所設(shè)計算法具備縮小數(shù)據(jù)域之間的分布差異，通過參數(shù)敏感性分析，對目標泛化能力研究中，全面驗證了該方式在不同條件下具備適用性與穩(wěn)定性，可在不同條件下加以運用。

結(jié)束語

綜上所述，基于識別泛化能力提高要求，為達到跨域識別目標，引入SIDA 方法設(shè)計目標識別算法，最終得出公式為：的結(jié)論。經(jīng)過誤差邊界估計與分析，確定此算法可行。同時，與CNN、JDA、LCS 設(shè)計的算法進行比較，得出此種算法具備泛化能力高特點的結(jié)論，證明此種算法可直接應(yīng)用于跨域目標識別計算中，在目標識別算法設(shè)計領(lǐng)域具有研究前景。