擬噪聲樣本學(xué)習(xí)過程一致收斂速度的界

杜二玲　張鴻

摘要：在擬噪聲樣本關(guān)鍵定理成立的基礎(chǔ)上，結(jié)合擬概率的知識，討論了擬噪聲樣本學(xué)習(xí)過程一致收斂速度的界。為下一步建立擬噪聲樣本的結(jié)構(gòu)風(fēng)險最小化原則打下了理論基礎(chǔ).也為進一步構(gòu)建擬噪聲樣本的支持向量機提供了理論依據(jù)。

關(guān)鍵詞：擬概率；期望風(fēng)險泛函；經(jīng)驗風(fēng)險泛函；一致收斂速度的界

中圖分類號：TP18 文獻標(biāo)識碼：A 文章編號：1009-3044（2016）23-0195-02

Abstract： On the basis of the key theorem of the quasi-noise variable， combined with the knowledge of quasi probability， the bounds on the rate of uniform convergence base on quasi-noise variable are discussed. The theoretical foundation is laid for the next step to establish the structural risk minimization principle of quasi-noise variable. It also provides a theoretical basis for the further construction of the support vector machine for the quasi-noise variable.

Key words： quasi-probability； empirical risk functional； expected risk functional； bounds on the rate of uniform convergence

1 引言

統(tǒng)計學(xué)習(xí)理論[1]（SLT）是機器學(xué)習(xí)的重要組成部分，它是針對小樣本情況研究統(tǒng)計學(xué)習(xí)規(guī)律的理論，是建立在概率空間上的。關(guān)鍵定理和學(xué)習(xí)過程一致收斂速度的界是SLT的重要組成部分，在非概率空間上，這兩部分的內(nèi)容已經(jīng)取得了重要的成果[2-8]。其中關(guān)于學(xué)習(xí)過程一致收斂速度的界的討論都是基于樣本不受外界影響的前提下的，實際應(yīng)用中樣本往往受到外界各種因素的影響。本文考慮到樣本受到噪聲的影響，利用擬概率測度，通過對指示損失函數(shù)的討論，得到了擬噪聲樣本學(xué)習(xí)過程一致收斂速度的界，從而擴大了其應(yīng)用范圍。

2 基本概念

定理2估計了所選函數(shù)的風(fēng)險值與最小可能風(fēng)險值有多接近。這兩個不等式都與給定函數(shù)集的容量[l]有關(guān)。

通過以上的討論得到了擬噪聲樣本學(xué)習(xí)過程一致收斂速度的界。為進一步研究擬噪聲樣本的統(tǒng)計學(xué)習(xí)理論奠定了理論基礎(chǔ)。下一步的工作是討論擬噪聲樣本結(jié)構(gòu)風(fēng)險最小化原則及其應(yīng)用。

參考文獻；

[1] Vapnik V N. Statistical learning theory[M]. New York： A Wiley-Interscience Publication， 1998.

[2] 王芬. 機會空間上學(xué)習(xí)理論的關(guān)鍵定理[J]. 湖北師范學(xué)院學(xué)報（自然科學(xué)版），2013，04：76-79+99.

[3] 高林慶，李鑫，白云超，哈明虎. 泛空間上學(xué)習(xí)理論的關(guān)鍵定理[J]. 計算機工程與應(yīng)用，2010，31：32-35.

[4] 李俊華，李海軍. 基于模糊隨機樣本的學(xué)習(xí)理論關(guān)鍵定理[J]. 模糊系統(tǒng)與數(shù)學(xué)，2013，06：7-11.

[5] 李俊華，李海軍. 受噪聲影響的復(fù)hybrid樣本的學(xué)習(xí)理論關(guān)鍵定理[J]. 河北大學(xué)學(xué)報（自然科學(xué)版） ，2014， 34（1）： 14-18.

[6] 杜二玲，李俊華. 受噪聲影響的復(fù)擬隨機樣本的STL關(guān)鍵定理[J]. 河北大學(xué)學(xué)報（自然科學(xué)版），2015（5）：449-452.

[7] 王英新，唐世星. 粗糙學(xué)習(xí)過程一致收斂速度的界[J]. 承德石油高等?？茖W(xué)校學(xué)報，2010，02：71-74.

[8] 哈明虎，馮志芳，宋士吉，等. 擬概率空間上學(xué)習(xí)理論的關(guān)鍵定理和學(xué)習(xí)過程一致收斂速度的界[J]. 計算機學(xué)報， 2008（ 3）： 476-485.