基于自適應(yīng)量化器選擇的編碼率失真優(yōu)化判決算法

李娜娜， 黃琨強， 張秋聞， 劉 寬

(1.鄭州輕工業(yè)學院 計算機與通信工程學院，河南 鄭州 450001； 2.鄭州工商學院 機械與電信工程學院，河南 鄭州 451400)

0 引言

采用率失真(rate-distortion optimization, RDO)[1]是HEVC編碼復(fù)雜度高的重要因素之一，而如何有效對其進行優(yōu)化來降低計算量成為難題.

針對上述問題，研究人員已經(jīng)從率失真計算的預(yù)測過程出發(fā)，在率失真函數(shù)和編碼器編碼單元的層面進行了優(yōu)化，通過降低函數(shù)本身的運算量來提升HEVC編碼器的性能，并以此達到優(yōu)化編碼時間的目的.文獻[2]提出了離散余弦轉(zhuǎn)換系數(shù)和基于全零塊率失真優(yōu)化量化跳過算法，提升了編碼效率.文獻[3]通過訓練傳輸集合后選擇最合適的傳輸模式來分類傳輸變換系數(shù)，從而降低視頻比特率.文獻[4]提出了變換編碼傳輸約束條件實現(xiàn)了簡化率失真代價計算的效果.文獻[5]提出了一種基于運動特性的編碼塊分割算法，有效加快了幀內(nèi)編碼的速度.文獻[6]提出了主動選擇變換編碼塊的率失真優(yōu)化量化(rate-distortion optimized quantization, RDOQ)的決策算法，得到了較好的編碼增益.文獻[7]使率失真優(yōu)化量化代價計算隨著標準測試模型中的量化值變化，實現(xiàn)了壓縮率的提高.文獻[8]采用一種基于自由量化框架的快速RDO算法，該算法在幀內(nèi)、幀間預(yù)測過程都很有效，明顯地降低了率失真計算復(fù)雜度.文獻[9]利用感知特征引導(dǎo)率失真優(yōu)化算法來改善視頻編碼中編碼效率低的問題，提出通過空域中梯度幅值率特征和時域中梯度相似度偏差率特征來描述相關(guān)性，從而自適應(yīng)地選擇RDO編碼過程中拉格朗日乘子來提升編碼性能.文獻[10]對編碼塊復(fù)雜度進行了分類，并根據(jù)分類情況對編碼單元快速分割，有效地判決了編碼塊深度，提升了編碼效率.文獻[11]簡化35種幀內(nèi)編碼模式到11種模式后，增加最有可能模式組成候選預(yù)測集，從而有效減少率失真優(yōu)化過程中需計算代價值的模式數(shù)量，以此來降低計算復(fù)雜度.文獻[12]介紹了對編碼塊和對應(yīng)視頻幀中已編碼的編碼塊進行分類的壓縮方法，改變了遍歷計算的方式.但是，這些算法都是針對量化過程中的率失真計算進行的優(yōu)化，忽略了應(yīng)根據(jù)編碼塊特點來選擇低計算復(fù)雜度量化器的方式.

基于此，筆者針對HEVC中可以使用不同的量化方法對變換系數(shù)進行量化的特點，提出了量化器判決條件，實現(xiàn)了標量量化和率失真優(yōu)化量化的自適應(yīng)選擇，從而減少遍歷計算量，縮短編碼器編碼時間.實驗表明，筆者基于量化過程的自適應(yīng)判決方法在全幀內(nèi)(all intra, AI)實驗條件下可以節(jié)省大約10.52%的編碼時間，同時僅約有0.04%的碼率上升和0.0 071 dB的信噪比下降.

1 均勻標量量化與率失真優(yōu)化量化技術(shù)特征分析

均勻標量量化(uniform scalar quantizer)的量化步長Qs可以由輸入信號變化區(qū)間和重建值數(shù)量決定：

(1)

式中:m和n分別表示信號的最大值和最小值；M表示重建值數(shù)量.則量化后輸出：

(2)

其中，xi和xi+1分別是對應(yīng)區(qū)間端點對應(yīng)的映射值.假設(shè)輸入值服從均勻分布，則以EMS衡量的量化誤差為：

(3)

(4)

RDOQ在HEVC編碼器中的計算需要不斷利用RDO準則.以官方測試平臺HM為例分析.首先，需要確定候選的量化值，公式如下：

(5)

式中：ci為變換塊系數(shù)；li為系數(shù)量化后的值[15-16]；round為舍入關(guān)系.

首先，根據(jù)變換塊系數(shù)及每個候選量化值計算所有候選量化值的代價，利用RDO遍歷計算所有系數(shù)包含的所有候選值的代價值，并選取它們較低代價值對應(yīng)的量化值作為最優(yōu)量化值.

然后，還需要利用RDO準則來遍歷搜索每一個系數(shù)塊組(coefficient group，CG)是否量化為全零組，以達到較好的量化效果.最后，量化過程還需要確定最后一個非零系數(shù)的位置，通過確定熵編碼中的該位置信息來解決拖尾零系數(shù)造成的編碼比特升高問題.因此，與標量量化相比，RDOQ雖然提高了編碼器的性能，但由于利用了RDO準則，需要遍歷計算候選量化值以及全零組、最后一個非零系數(shù)位置等率失真代價值，因此，總的編碼時間大約增加了10%～15%.

2 高效的率失真優(yōu)化量化判決算法

2.1 均勻標量量化和率失真量化判決

對于變換塊，如何自適應(yīng)地合理分配標量量化和率失真優(yōu)化量化，對變換過程降低計算復(fù)雜度至關(guān)重要.量化是對變換系數(shù)進行量化，根據(jù)其量化水平可以對量化器合理有效地判決.然而在下列兩個條件下，兩種量化器都將無法有效提升編碼性能.

(1)變換系數(shù)量化為零；

(2)變換系數(shù)RDOQ量化水平等于變換系數(shù)均勻標量量化水平.

為此，我們對同一幀圖像變換塊變換系數(shù)進行RDOQ量化和標量量化后量化水平相等的概率進行了分析，如表1所示.其中，G0表示量化水平為零；GSQ表示均勻量化水平;GRDOQ表示RDOQ量化水平.通過對不同尺寸編碼塊在兩種量化模式下量化為零或有相同量化水平的可能性分析進行第一步的篩選.當量化水平為零或相同時不需量化器選擇，不同時則進行下一步的量化器選擇判決.從表1可以看出，大約有14%的變換塊系數(shù)在進行量化時，無論是使用標量量化還是率失真優(yōu)化量化，量化水平都相同，兩種方法編碼效率也一樣，不需進行量化模式選擇.而在GSQ=GRDOQ和GSQ≠GRDOQ兩種情況下，又分別有74.7%和21.3%的變換塊系數(shù)量化為零，零變換塊不需進行量化.所以，在GSQ=GRDOQ或量化水平為零或變換塊變換系數(shù)近似為零時，兩種量化方法對視頻編碼效率并沒有較大的影響.此時，對變換塊進行量化時，采用傳統(tǒng)的標量量化或者RDOQ任一種即可.在進行視頻編碼時跳過筆者提出的量化器模式選擇過程.但是，在GSQ≠GRDOQ且RDOQ量化水平不等于零時，大約86%中仍然有78.7%的變換塊系數(shù)需要進一步判定量化方法.為此，繼續(xù)分析了不同尺寸變換塊變換系數(shù)進行RDOQ后量化水平的平均和，如表2所示.

表1 兩種量化方法系數(shù)量化水平之間的關(guān)系 Tab.1 The corrlation of quantization level of coefficients between two quantization methods

表2 系數(shù)量化水平不為零時RDOQ量化水平平均和 Tab.2 The mean sum of quantization level after RDOQ when quantization level of coefficients not equal to zero

表2中，在變換系數(shù)量化水平不為零，且量化水平和小于平均量化水平平均和(2.23)時，可以直接將變換系數(shù)量化為零，不再進行RDOQ量化.在變換系數(shù)量化水平不為零且GSQ≠GRDOQ情況下，若量化水平和小于最小尺寸4×4變換塊對應(yīng)的10.11，則RDOQ量化相對于計算復(fù)雜度帶來的編碼時間增高并沒有較大幅度的比特率節(jié)省，編碼器將選擇均勻標量量化方法.

為了進行以上量化方法的選擇，需要計算變換系數(shù)量化水平和，如式(6)所示：

(6)

式中：lm表示m級量化水平；cm表示未量化系數(shù)；N表示系數(shù)總量；f表示量化補償.

所以，根據(jù)表2實驗結(jié)果設(shè)定閾值T為10.11，并進行以下判決：

(7)

判斷條件(7)可以進一步簡化為：

(8)

所以，在進行HEVC視頻編碼時，變換系數(shù)量化水平和若滿足條件式(8)，量化過程將跳過RDOQ，直接進行均勻標量量化；否則，HEVC進行RDOQ量化.HEVC編碼器通過筆者提出的判決條件進行量化器的選擇，可以在保證在失真較低的條件下較大地降低量化過程中的計算復(fù)雜度.

2.2 算法流程

步驟1提取當前需編碼變換塊變換系數(shù).

步驟2確定變換系數(shù)的RDOQ量化候選值，當GSQ=GRDOQ或量化水平為零時，變換塊變換系數(shù)選擇標量量化或者RDOQ并無區(qū)別，此時跳出此量化器選擇算法，直接采用標準的RDOQ方法進行量化過程.否則需要進行下一步的選擇判決.

步驟3根據(jù)式(6)計算變換系數(shù)量化水平和.若量化水平和小于平均量化水平平均和2.23時，則直接將變換系數(shù)量化為零，不再進行RDOQ量化；否則需要進行下一步判斷.

步驟4設(shè)定10.11為閾值T，根據(jù)判決條件式(8)進行量化模式判決.若量化水平和滿足判決條件(8)則使用均勻標量量化；否則則使用RDOQ，判決結(jié)束.

步驟5進行下一變換塊的量化模式判決.

2.3 算法時間復(fù)雜度

從以上分析可知，采用了該選擇判決算法后，由于大約有14%的變換塊系數(shù)在進行量化時GSQ=GRDOQ;有86%的變換塊系數(shù)在進行量化時GSQ≠GRDOQ.而在GSQ≠GRDOQ條件下，21.3%的變換塊系數(shù)量化為零，所以大約有14%+86%×21.3%=32.32%的變換塊系數(shù)在步驟2后跳出量化器選擇算法，直接采用標準的RDOQ方法進行量化過程，在此種情況下并沒有減少時間復(fù)雜度；而大約有86%×(1-21.3%)=67.68%的變換塊系數(shù)需要進行步驟3以下的判斷.當其量化水平和小于平均量化水平平均和(2.23)時，直接將變換系數(shù)量化為零，不再進行RDOQ量化.接下來當量化水平和小于10.11時，則判斷需要使用均勻標量量化，不再進行RDOQ量化.該算法在這兩種情況下均不再進行遍歷計算候選量化值以及全零組、最后一個非零系數(shù)位置等率失真代價值，減少了編碼時間.

3 實驗結(jié)果

實驗使用HEVC官方測試(HEVC Test Model,HM)16.0平臺，在AI、隨機接入(random access, RA)、低延遲(low delay, LD)3種條件下分別對不同分辨率和紋理變化特性的視頻測試序列進行測試.

筆者提出的算法較HEVC編碼器的平均節(jié)省時間(average saving time, AST)的百分率AST計算如下：

(9)

式中:tA是HEVC編碼時間；tP是本文算法的編碼時間.所以，AST值越高，性能較HEVC編碼器越好.

3.1 與HEVC編碼標準及其他改進算法的比較

試驗在設(shè)定的標準測試條件下以峰值信噪比變化(bjontegaard delta peak signal-to-noise rate)RBDPSN和碼率變化(bjontegaard delta bit rate)RBDB判定編碼性能，以AST節(jié)省的時間多少表示編碼復(fù)雜度降低程度，試驗結(jié)果如表3所示.

表3 提出的算法與原始HEVC編碼器的結(jié)果比較 Tab.3 Comparison results between the proposed algorithm and the original HEVC encoder

由表3可知，筆者提出的算法具有較好的量化效果，在3種配置條件下分別實現(xiàn)了11.23%、11.19% 和 10.52% 的編碼時間節(jié)省.其中，AI條件下SlideShow最高實現(xiàn)了25.2%的時間節(jié)省，BaskeballDrill序列也降低了6.9%的編碼時間；RA條件下SlideShow最高實現(xiàn)了29.4%的時間降低;BasketballPass也降低了8.4%的編碼時間；LD條件下SlideShow序列實現(xiàn)了26.4%的時間降低；BQMall序列實現(xiàn)大約8.0%的時間節(jié)省.同時，3種條件下分別平均有0.07%、0.15%、0.04%的碼率上升和0.009、0.0 195、0.0 071 dB的峰值信噪比降低.實驗結(jié)果中，SlideShow視頻測試序列因為具有較為單調(diào)的背景和較為復(fù)雜前景的特點，在提出的判決條件下進行編碼，量化過程更多地選擇了均勻標量量化，從而節(jié)省了大量的編碼時間.與此同時，序列復(fù)雜也造成了較高的峰值信噪比(peak signal-to-noise rate)RPSN下降，但是仍在可接受范圍內(nèi)；而且，不同分辨率和運動特性的測試序列幾乎都保持了較好的編碼質(zhì)量，RPSN和比特率(bit rate)RB在提出的算法中較HEVC編碼器分別下降和升高得并不明顯，如圖1所示為測試視頻序列率失真(rate distortion,RD)曲線圖.可見，無論是RBDPSN還是RBDB，其變化都是非常微小的.在時間節(jié)省方面，文獻[5]基于運動特性的編碼塊分割算法節(jié)省了4.7%的編碼時間；文獻[7]中基于代價值計算的RDOQ優(yōu)化算法節(jié)省大約為3.74%編碼時間；文獻[10]基于編碼塊復(fù)雜度分類情況進行的編碼單元快速分割算法節(jié)省了大約9.11%的編碼時間，均低于本文算法的10.5%的時間節(jié)省.

因此，基于實驗分析，筆者提出的本文算法能夠在保證視頻質(zhì)量的同時還能節(jié)省編碼時間，具有良好的編碼性能.

3.2 試驗結(jié)果主觀質(zhì)量分析

圖2顯示了編碼后圖像及其紅色矩形區(qū)域的局部放大圖.對比可知，筆者提出的量化判決方法能有效地對均勻量化和率失真優(yōu)化量化進行自適應(yīng)選擇，量化器選擇更加合理.采用本文算法進行編碼后，圖像局部放大圖仍然保留了圖像結(jié)構(gòu)信息以及細節(jié)，表明該算法在降低了編碼器的計算復(fù)雜度的同時，仍然能保持圖像質(zhì)量；同時可以看出，雖然本文算法理論上會造成一定的失真(如圖1所示，視頻RPSN值有輕微降低)，但從主觀上看，對視頻質(zhì)量的影響卻是有限的.

圖1 測試視頻序列RD曲線圖 Fig.1 The RD curve of test sequences

圖2 主觀質(zhì)量對比 Fig.2 The comparison of video subjective qualitys

4 總結(jié)

筆者對比分析了視頻編碼標準中均勻標準量化與率失真優(yōu)化量化的不同特性，提出了一種基于量化水平的量化器自適應(yīng)分配方法，通過對不同區(qū)域的特征分析自適應(yīng)地選擇合適的量化器.提出的算法不僅能降低HEVC編碼復(fù)雜度，而且實現(xiàn)了較好的編碼效果.實驗表明，使用本文算法較HEVC編碼器能節(jié)省大約10.52%左右的編碼時間，同時保持了較好的編碼質(zhì)量.