俄語語音識別技術的研究現(xiàn)狀和發(fā)展趨勢

馬延周

摘要：語音識別技術的發(fā)展，推動了人機交互的智能化，語音識別實用化技術使得人們之間的交流更加方便順暢。本文從語音識別的發(fā)展歷程及俄語語音識別的現(xiàn)狀入手，對語音識別的基本原理、基于HMM模型的語音識別技術和大詞匯量連續(xù)語音識別的理論基礎進行了詳細分析，并介紹了俄語語音聲學模型和語言模型的創(chuàng)建辦法。針對語音識別技術面臨的難點問題，探討了應對的策略，最后對俄語語音識別技術的發(fā)展方向和應用前景作了展望。

關鍵詞：語音識別；HMM；俄語聲學模型；俄語語言模型

中圖分類號：TP18 文獻標識碼：A 文章編號：1009-3044（2015）29-0155-04

Research Status and Development Trend of Russian Speech Recognition Technology

MA Yan-zhou

（PLA University of Foreign Languages， Luoyang 471003， China）

Abstract： Abstract： Technological advance of speech recognition facilitates intelligent human-computer interactions. And applications of speech recognition technology have made human communications easier and more instantaneous. Starting with a look at the past and the present of Russian speech recognition， this paper attempts to conduct a detailed analysis on fundamental principles of speech recognition， speech recognition technology based on Hammond theoretical groundwork for consecutive vast-vocabulary speech recognition. The paper also demonstrates steps for establishing models in Russian acoustics and speeches. As to technological barriers in speech recognition， it probes into possible way out strategies. Finally， it predicts future development direction and application prospects for Russian speech recognition technology.

Key words： speech recognition； hmm；russian acoustic models； russian language models

俄語（Русскийязык）[1]是俄羅斯和聯(lián)合國的官方語言，也是我國少數(shù)民族正式語言。在前蘇聯(lián)和俄羅斯使用，俄語在蘇聯(lián)時期具有很重要的地位，直到現(xiàn)在仍然有些獨聯(lián)體國家在廣泛使用，雖然這些國家已經(jīng)開始強調(diào)本地語言的重要性，但在這些國家之間依然使用俄語進行交流。全球有超過一億四千萬把俄語作為母語使用，有近四千五百萬人以第二語言使用，使用俄語媒體的有3億多人。我國俄羅斯族使用俄語進行交流，聚集地分布在新疆地區(qū)的阿勒泰、伊犁、塔城及內(nèi)蒙古呼倫貝爾市的額爾古納、滿洲里等地，

語音識別（Speech Recognition）[2]是指在各種情況下，識別出語音的內(nèi)容，讓機器聽懂人說的話，根據(jù)其信息而執(zhí)行人的不同意圖。它是一門交叉學科，涉及與計算機、語音語言學、通信、信號處理、數(shù)理統(tǒng)計、神經(jīng)心理學人工智能、和神經(jīng)生理學等學科。能夠能滿足不同需要的語音識別系統(tǒng)的實現(xiàn)已經(jīng)成為可能，它的前提是模式識別、信號處理技術、計算機技術和聲學技術等的發(fā)展。近年來，軍事、交通等領域，尤其在計算機、人工智能等領域得到廣泛應用。

俄語語音識別是一個有巨大潛力的研究方向，不僅能夠為人們的生產(chǎn)生活、日常交往提供極大的便捷性和高效性，而且在政治、軍事、經(jīng)濟等各個領域都有著重要的研究價值和應用前景。本文著重介紹語音識別發(fā)展歷程、闡述俄語語音識別關鍵技術、分析俄語語音識別未來的發(fā)展趨勢。

1 俄語語音識別的現(xiàn)狀

俄語連續(xù)語音識別取得快速發(fā)展，利益于技術的進步。隨著語音識別在技術層面的不斷突破與創(chuàng)新，對英語的識別慢慢成熟，然后逐漸擴展到其他語種如漢語、俄語等。

1.1語音識別技術的發(fā)展

20世紀50年代，語音識別的研究開始借助機器來實現(xiàn)。1952年，一個特定人獨立數(shù)字識別系統(tǒng)[3]由貝爾（Bell）實驗室的Davis、Diddulph和Balashelk首次研制，該系統(tǒng)成功識別10個英語數(shù)字。1959年，英格蘭的Fry和Denes利用譜分析技術和模板匹配技術，提高了音素的識別精度，建立了一個能夠識別9個輔音和4個元音的識別系統(tǒng)。20世紀60年代，經(jīng)過Faut和Stevens的努力，語音生成理論初步形成。動態(tài)規(guī)劃方法[4]由蘇聯(lián)的Vintsyuk提出，并實現(xiàn)了對兩段語音進行對齊。70年代取得一系列重大突破，基本實現(xiàn)孤立詞識別。俄羅斯推進了模板匹配思想在語音識別中的應用；利用動態(tài)規(guī)劃方法實現(xiàn)語音識別也由日本的科學家實驗成功。20世紀80年代，語音識別研究的一個主要特點是由模板匹配方法向統(tǒng)計建模方法的轉變，特別是隱馬爾可夫模型[5-6]。盡管HMM眾所周知，但是直到20世紀80年代中期HMM模型才廣泛被世界各地的語音識別實驗室熟悉和采納。另一個新方向是利用神經(jīng)網(wǎng)絡解決語音識別問題，促進了該技術在語音識別領域的應用[7-9]。20世紀80年代后期，在DAPRA的支持下，對大詞匯連續(xù)語音識別系統(tǒng)的研制也取得了顯著的成果，研究機構主要有CMU、BBN、林肯實驗室、MIT、AT&T貝爾實驗室。

20世紀90年代以來，語音識別開始實用化研究，并取得了突破性的進展。其中算法的研究取得了非常明顯的效果，并提升了系統(tǒng)的性能，如最大似然線性回歸（Maximum Likelihood Linear Regression， MLLR），最大后驗概率準則估計（MaximumA-Posteriori Estimation， MAP），以及用于模型參數(shù)綁定的決策樹狀態(tài)聚類等算法，這些算法的不斷優(yōu)化，也使得應用于實際的語音識別不斷出現(xiàn)。最具有有代表性的系統(tǒng)有：Dragon System公司的NaturallySpeaking，Nuance公司的Nuance Voice Platform語音平臺，IBM公司推出的ViaVoice， Sun的VoiceTone，Microsoft的Whisper，等。在美國國家標準和技術研究所（Nationa lInstitute of standardsand Technology，NIST） 和DARPA的不斷推動下，各個研究機構不斷嘗試語音識別任務，目的是不斷提高識別的性能。進入21世紀，在向廣度和深度兩方面，自動語音識別得到了更為廣泛的研究。魯棒性語音識別，進行了了細致的調(diào)研，特別是在置信度和句子確認方面非常有效，尤其對處理病句。在21世紀的前10年，信息技術領域最重要的十大科技發(fā)展技術之一就有語音識別技術的一席之地，人機接口關鍵的語音識別技術，已經(jīng)成為一個具有競爭性的新興高技術產(chǎn)業(yè)，它的實用化研究將成為未來的方向。

1.2俄語語音識別技術的發(fā)展

語音技術的研究主要集中在幾個主要的語言，如英語，法語，西班牙語，漢語和西班牙語，一些其他語言尤其是東歐語言很少受到注意。但是近幾年在俄羅斯，捷克，波蘭，塞爾維亞，克羅地亞等俄語區(qū)對俄語語音技術的研究活動正在穩(wěn)步上升。

俄羅斯科學院緊跟世界語音識別技術的發(fā)展，結合俄語自身的獨有發(fā)音特點進行了卓有成效的研究并取得了一系列的成果。在開發(fā)聲學，詞匯和語言模型時采取特別重視俄語的細節(jié)，對于聲學模型，采用知識和基于統(tǒng)計的方法來創(chuàng)建幾個不同的音素集10。對于語言模型（LM），從不同網(wǎng)站自動收集新聞文本語料，用統(tǒng)計分析的方法將訓練文本數(shù)據(jù)和語法相結合，計算不同情況下n-gram中單詞的頻率，優(yōu)化n-gram模型，以建立更好的n-gram模型[11]。在基本語音識別單元的問題上采用距離最小信息不匹配的原則，建立語素級單元，顯著減少誤差概率[12]。

語料庫是語音識別最基本的支撐，文本語料和口語語料都是一個語料庫不可或缺的組成部分，任缺其一則語料庫就不能反映該語言的完整信息，也沒有辦法在此基礎上進行大詞匯、非特定人連續(xù)俄語語音識別的研究[13]。俄羅斯對語料庫的研究起步比較晚，在20世紀一直落后于世界語料庫的發(fā)展，缺乏系統(tǒng)的理論研究和先進的實踐成果。但近十年來，隨著俄羅斯國家語料庫建立和不斷完善，俄語語音技術的研究正在慢慢興起并取得了一些矚目的成就。

國內(nèi)對俄語語音的研究主要集中在教學方面。使用統(tǒng)計的方法，基于HMM對俄語語音進行建模和識別研究，目前還沒有發(fā)現(xiàn)相關的文獻記錄。

2 語音識別技術

語音識別系統(tǒng)根據(jù)角度、范圍、性能等差別，有以下的分類。

根據(jù)詞匯量的大小分可為小詞匯量（10至100）、中詞匯量（100至500）和大詞匯量（大于500）。根據(jù)發(fā)音方式可分為孤立詞（isolated word）識別、連接詞（connected word）識別、連續(xù)語音（continuous word）識別等。根據(jù)說話人特征可分為特定（speaker-dependent）說話人和非特定（speaker-independent）說話人。根據(jù)語音識別的方法不同進行了模板匹配、隨機模型和概率語法分析等分類方法。

2.1 語音識別基本原理

通過計算機的輔助功能把輸入的語音信號變換為對應的文本和命令，并且能夠接受人類的語音、理解人類的意圖，是語音識別技術研究的根本目的。語音識別系統(tǒng)核心是一套語音取樣、識別、匹配的模式匹配系統(tǒng)[2]，基本原理如圖1所示。

語音識別系統(tǒng)由三個基本單元組成，它包含特征提取、模式匹配和參考模式庫，雖然它是模式識別系統(tǒng)，但它的結構要比普通的模式識別系統(tǒng)要復雜，因為語音所包含的信息是復雜多樣的語言信息，結構也是多變的。首先對輸入的語音信號進行預處理，預處理包括適當放大信號功率并對增益進行有效控制，之后進行反混疊濾波以消除信號的干擾；然后將模擬信號轉化為數(shù)字信號即數(shù)字化處理，便于存儲和處理；然后進行特征提取，并使用一些參數(shù)來表示的語音信號的特性；最后對其進行識別。語音識別又分為兩階段：訓練和識別。在訓練階段，利用特征參數(shù)表示語音信號的相應特征，得到標準數(shù)據(jù)即模板，將模板構建成一個數(shù)據(jù)庫即模板庫；在識別階段，將語音特征與模板庫中的每一個模板進行比較，找到了最相似的參考模板，這就是識別的結果。

2.2 HMM模型技術

語音識別早期采用的有矢量量化（Vector quantization， VQ）技術、動態(tài)時間規(guī)整（dynamic time warping， DTW）技術等，從處理難度上看，最簡單的是小詞匯量、特定人、孤立詞的語音識別，最難解決的是大詞匯量、非特定人、連續(xù)語音識別。當今語音識別系統(tǒng)采用的主流算法是HMM模型技術。

HMM模型的狀態(tài)不能被直接觀察到，但可以通過觀測向量序列來觀察到，這些向量都是通過某些特定的概率密度分布來表現(xiàn)為各種狀態(tài)的，每個觀測向量都是由一個狀態(tài)序列產(chǎn)生的，這些狀態(tài)序列具有相應的概率密度分布。HMM是一個雙重隨機過程：具有一定狀態(tài)數(shù)量的隱馬爾可夫鏈和顯示隨機函數(shù)集。HMM的基本問題及解決算法6-9

1）評估問題（前向算法）。

現(xiàn)有觀測序列O=O1O2O3…Ot以及模型參數(shù)λ=（π，A，B），如何計算觀測序列的概率，進一步可對該HMM做出相關評估。利用forward算法分別以每個HMM產(chǎn)生給定觀測序列O的概率進行計算，然后從其中選出最優(yōu)秀的HMM模型。

經(jīng)典應用例子就是語音識別。在HMM的語音識別描述中，每個單詞對應一個HMM，每個觀測序列全部由一個單詞的語音來構成，單詞的識別可以通過評估而選出最可能的HMM，此HMM由產(chǎn)生觀測序列所代表的讀音實現(xiàn)。

2）解碼問題（Viterbi算法）

現(xiàn)有觀測序列O=O1O2O3…Ot以及模型參數(shù)λ=（π，A，B），如何尋找最優(yōu)的隱含狀態(tài)序列。此類問題比較關注馬爾科夫模型中的隱含狀態(tài)，在這些狀態(tài)中雖然不能直接觀測，但價值更大，可以利用Viterbi算法來解決。

實際例子是進行分詞，分詞問題可以用HMM來解決。這句話的分割方法可以看做是一個隱式的狀態(tài)，而這句話可以被視為一個給定的條件，從而找出基于HMM的可能正確的分割方法。

3）訓練問題（Baum-Welch算法即前向后向算法）

此時HMM的模型參數(shù)λ=（π，A，B）未知，對這些參數(shù)進行調(diào)整，使得觀測序列O=O1O2O3…Ot的概率最大，使用Reversed Viterbi算法以及Baum-Welch算法可以解決。

2.3 大詞匯量連續(xù)語言識別

在語音識別研究中難度和挑戰(zhàn)性最大為課題應該是基于大詞匯量的、非特定人的連續(xù)語音識別[13]。在詞匯量大于1000詞的時候，比較容易混淆的詞數(shù)量增加，誤識率約為基于小詞匯量的、特定人的孤立詞識別系統(tǒng)的50倍左右。而且還帶來兩個重要的、不易解決的問題：語流的切分和連續(xù)語音的發(fā)音變化。此時采用統(tǒng)一框架可以有效解決這個問題。大詞匯量連續(xù)語音識別總體框架[14]如圖2所示。

俄語語音信號分析后，形成特征向量，并通過字典識別模型，然后，根據(jù)語言模型的語法，將輸入的語音與模板匹配，在句子層面進行組合。從俄語聲學模型、俄語語言模型敘述大詞匯量連續(xù)語音識別的過程。

2.3.1聲學模型

設計俄語語音識別系統(tǒng)底層相應的HMM子詞單元模型，需要充分考慮俄語聲學和語音學的特征。俄語基本聲學單元的選擇是聲學建模過程中一個基本而重要的問題。在俄語連續(xù)語音識別中，可供選擇的基本單元包括詞、音節(jié)、元輔音等。識別基本單元的選擇一般基于語音學知識。

俄語字母是語音的書面形式，每個俄語字母都有自己的字母名稱。元音字母的名稱和讀音相同，輔音字母的名稱是在該輔音后加一個元音[15-16]。如字母с的名稱為эс，字母б的名稱為бэ等。字母名稱通常用于讀某些縮寫詞。俄語字母共有33個字母如表1所示。

根據(jù)俄語詞的發(fā)音特征、音節(jié)的發(fā)音特征和字母的發(fā)音特征，選擇音素作為子詞單元，然后就可以進行HMM訓練，首先用一種很粗糙的方法進行初始分段，然后向前向后算法或K-均值算法用于多次迭代，自動收斂到一個最佳的模型，并實現(xiàn)了一個合理的子詞分割。這樣就可以初步完成俄語的聲學建模，建設一個俄語語音參考模式庫。

2.3.2 統(tǒng)計語言模型

自然語言處理問題必然要乃至統(tǒng)計語言模型[17]，如語音識別、機器翻譯、分詞、詞性標注等等。統(tǒng)計語言模型是計算概率的模型，即。使用語言模型，可以確定一個單詞序列的概率，或給定一個單詞的數(shù)目，它可以預測下一個最有可能的單詞。

那么如何計算一個句子的概率呢？給定句子（詞語序列），它的概率可以表示為：

由于上式中的參數(shù)過多，因此需要近似的計算方法。下面介紹適用于俄語的n-gram統(tǒng)計語言模型。

n-gram模型即n-1階馬爾科夫模型，首先假設：當前詞的出現(xiàn)概率僅僅與前面n-1個詞相關。因此（1）式可以近似為：

當n值為1、2、3時，n-gram模型分別稱為unigram、bigram和trigram語言模型。n-gram模型的參數(shù)就是條件概率。N取值越大，模型越準確但計算越復雜計算量越大。在俄語語言模型的建立過程中，采用最多是二元模型和三元模型。

2.3.3 連續(xù)語音識別系統(tǒng)的性能評測

評定連續(xù)語音識別系統(tǒng)的優(yōu)劣，觀測系統(tǒng)的性能，一般都是針對不同的識別任務，不同的任務單詞庫和任務語句庫，需要不同的評價標準。如果要想粗略地評估某個系統(tǒng)，可以從兩個方面去考慮，一是系統(tǒng)識別任務的難易程度即復雜性；另一個是采用該系統(tǒng)的識別系統(tǒng)的識別方法對該難度的識別任務的識別效果即識別率。在連續(xù)語音識別系統(tǒng)中，通過對音素、音節(jié)或詞的識別率進行識別性能評價，常用的系統(tǒng)參數(shù)是正確率（正確率），錯誤率和識別準確率。

其中的正確數(shù)、轉換數(shù)、插入數(shù)和脫落數(shù)，采用主觀的方法來目測，馬可以通過統(tǒng)計的方法來得到。

2.4 HTK工具

語音識別過程涉及的算法復雜，其中最為著名的HTK由劍橋大學研發(fā)，主要用來建立基于HMM的大規(guī)模連續(xù)語音識別系統(tǒng)。該軟件集為開放源代碼，可以在UNIX/Linux和Windows環(huán)境下運行。HTK提供了一系列命令函數(shù)用于語音識別，包括一系列的運行庫和工具，使用基于ASNIC模塊化設計，可以實現(xiàn)語音錄制、分析、標示、HMM的訓練、測試和結果分析。整個HTK的工作過程包括數(shù)據(jù)準備、模型訓練和識別過程。

3 語音識別的應用

隨著計算機技術的進步、算法的不斷優(yōu)化、信息處理技術的智能化，俄語語音識別技術的發(fā)展會越來越光明。應用的范圍也會越來越廣，可能會出現(xiàn)一些新的應用。

1）俄語語音信息檢索

網(wǎng)絡技術和多媒體技術的迅速發(fā)展，數(shù)據(jù)量急劇增多，如何在海量數(shù)據(jù)中挑選出有用的信息，并進行相應的分類和檢索，對合理地利用信息資源具有重要的意義。多媒體檢索技術應運而生。

2）俄語發(fā)音自學技術

非母語語言學習成為目前教育領域的一個熱點，而自學是語言學習的一個有效途徑，它具有不受時間和空間限制、靈活方便的特點，一種稱為計算機輔助語言學習的技術誕生了。有幾個普通問題和關鍵技術是必須要考慮和解決的：標準發(fā)音語料庫和非標準發(fā)音語料庫、學習者發(fā)音的分級標準、語音對齊、衡量發(fā)音質(zhì)量的評判標準和發(fā)音矯正。

3）基于俄語語音情感處理

人與人的交流，除了語言信息外，非語言信息也起著非常重要的作用，包含在語音信號中的情感因素[18]，也反映了信息的一個方面。情感的分析和識別也是一個非常困難的研究方向。

4）嵌入式俄語語音識別技術

后PC時代智能終端的飛速發(fā)展，為人機之間的自然、快捷交互提供了可能。當前嵌入式語音識別的應用領域還比較有限，未來應用可能會更加廣泛。

4 總結

語音識別技術的實用研究是一項極具挑戰(zhàn)性的工作，雖然經(jīng)歷了近半個世紀的發(fā)展，取得了一些突破性的進展。語音識別技術在俄語方面的應用更是如此，不僅要解決語音識別技術本身的問題，還要解決高質(zhì)量的俄語語音語料庫和文本語料庫的問題，同時還要解決各種算法與俄語適應和匹配等其他問題，如俄語自然語言的識別與理解、俄語語音信息的變化范圍與幅度、俄語語音的清晰度、俄語語音發(fā)音與環(huán)境噪聲及上下文的影響等等。雖然面臨諸多困難，但是隨著人類文明的不斷發(fā)展與科技的不斷進步，相信這些問題會在不久的將來逐一得到解決，展現(xiàn)在人們面前的是更加流暢、更加智能的人機交互界面。

參考文獻

[1] 趙力.語音信號處理 [M].北京：機械工業(yè)出版社，2011：191-215.

[2] 韓紀慶，張磊，鄭鐵然.語音信號處理[M].北京：清華大學出版社，2013：241-255.

[3] Karpov，K. Markov，I. Kipyatkova， et al.Large Vocabulary Russian Speech Recognition Using Syntactico-statistical Language Modeling[J].Speech Communication，2014，56（1）：213-228.

[4] Alex Waibel，ToshiyukiHanazawa，Geoffrey Hinton， et al.Phoneme Recognition Using Time-delay Neural Networks[J].Acoustics， Speech and Signal Processing， IEEE Transactions on，1989，37（3）：328-339.

[5] KH Davis，RBiddulph，SBalashek.Automatic Recognition of Spoken Digits[J].The Journal of the Acoustical Society of America，1952，24（6）：637-642.

[6] Lawrence Rabiner.A Tutorial on Hidden Markov Models and Selected Applications in Speech Recognition [J].Proceedings of the IEEE， 1989， 77（2）：257-286.

[7] Leonard E Baum，JAEagon.An Inequality with Applications to Statistical Estimation for Probabilistic Functions of Markov Processes and to a Model for Ecology[J].Bull. Amer. Math. Soc， 1967， 73（3）：360-363.

[8] Leonard E Baum，TedPetrie，GeorgeSoules， et al.A Maximization Technique Occurring in the Statistical Analysis of Probabilistic Functions of Markov Chains[J].The Annals of Mathematical Statistics，1970（1）：164-171.

[9] Leonard E Baum.An Equality and Associated Maximization Technique in Statistical Estimation for Probabilistic Functions of Markov Processes [J].Inequalities， 1972， 3（1）：1-8.

[10] ВВ Пилипенко.Распознавание дискретной и слитной речи из сверхбольших словарей на основе выборки информации из баз данных[J].Искусственный интеллект，2006（3）：548-557.

[11] ВВ Савченко，ДЮ Акатьев，НВ Карпов.Автоматическое распознавание элементарных речевых единиц методом обеляющего фильтра[J].Изв. вузов России. Радиоэлектр оника，2007（4）：35-42.

[12] ВВ Савченко.Автоматическое распознавание речи на основе кластерной модели минимальных речевых единиц в метрике Кульбака-Лейблера[J].Известия ВУЗов России.–Радиоэлектроника，2011（3）：9-19.

[13] ВВ Савченко.Фонема как элемент информационной тео рии восприятия речи[J].Известия ВУЗов России.–Радиоэ лектроника，2008（4）：3-11.

[14] ВЛ Розалиев.Построение модели эмоций по речи человека[J].Г л а в н ы й р е д а к т о р с б о р н и к а" Известия ВолгГТУ" д-р хим. наук проф. член-корр. РАН ИА Новаков， 2007（1）：65.

[15] ВЯ Чучупал，КА Маковкин，АВ Чичагов.К вопросу об оптимальном выборе алфавита моделей звуков русской речи для распознавания речи[J].Искусственный интеллект，2002，4（1）：575-579.

[16] ДН Бабин，ИЛ Мазуренко，АБ Холоденко.О перспектив ах создания системы автоматического распознавания сли тной устной русской речи[J].Интеллектуальные системы，2004，8（1）：45-70.

[17] Ирина Сергеевна Кипяткова，Алексей Анатольевич Карп ов.Автоматическая обработка и статистический анализ новостного текстового корпуса для модели языка систем ы распознавания русской речи[J].Информационно-управл яющие системы，2010（4）：1-7.

[18] Ирина Сергеевна Кипяткова，Алексей Анатольевич Карп ов.Эксперименты по распознаванию слитной русской реч и с использованием сверхбольшого словаря[J].Труды СП ИИРАН，2010，12（0）：63-74.