基于小波變換的新型幀內(nèi)模式預(yù)測快速選擇算法

羅國成，余彪，劉進(jìn)，王家友

(南京航空航天大學(xué) 電子信息工程學(xué)院，江蘇 南京210016)

H.264/AVC視頻編碼系統(tǒng)的復(fù)雜度主要集中在幀內(nèi)預(yù)測和幀間預(yù)測兩部分，幀內(nèi)預(yù)測編碼的復(fù)雜度主要集中在最佳預(yù)測模式選擇部分。隨著信息技術(shù)的發(fā)展，雖然幀內(nèi)預(yù)測編碼技術(shù)取得了長足的進(jìn)步，但與幀間預(yù)測編碼技術(shù)的研究相比，發(fā)展相對較慢，仍有很大的發(fā)展空間。對整個(gè)H.264/AVC視頻編碼系統(tǒng)而言，降低幀內(nèi)預(yù)測編碼的復(fù)雜度有助于大幅降低H.264/AVC編碼器的復(fù)雜度。因此，研究幀內(nèi)預(yù)測編碼快速算法具有重要的現(xiàn)實(shí)意義和實(shí)用價(jià)值[1-2]。

H.264/AVC視頻編碼標(biāo)準(zhǔn)中，幀內(nèi)預(yù)測模式執(zhí)行以基于方向?yàn)橹鞯念A(yù)測模式，尤其是在4×4亮度塊的9種預(yù)測模式中，有8種是方向預(yù)測。在編碼過程中，如果選擇了某一方向?yàn)橹饕念A(yù)測模式，那么就表示該編碼塊的紋理方向具有與所選預(yù)測模式相同的方向?；谶@樣的思想，Pan等[3-4]提出了一種基于邊緣方向直方圖的幀內(nèi)模式預(yù)測快速選擇算法，該算法首先用Sobel算子把每個(gè)像素點(diǎn)的邊緣方向矢量求出來，然后利用得到的邊緣方向矢量求出每一個(gè)宏塊的邊緣方向直方圖，最后依據(jù)邊緣方向直方圖的分布選擇出可能性最大的幾個(gè)預(yù)測模式作為候選模式,從而降低幀內(nèi)預(yù)測的計(jì)算復(fù)雜度。在Pan方案中，不管塊的方向性是否都明顯采用了直流DC(Direct Current)模式，其沒有最大限度地降低幀內(nèi)預(yù)測的計(jì)算復(fù)雜度，存在改進(jìn)的余地。參考文獻(xiàn)[5]和參考文獻(xiàn)[6]都對Pan的基于邊緣方向直方圖的快速算法進(jìn)行了改進(jìn)，但壓縮比提高的同時(shí)，運(yùn)算量不免增大。

本文提出了一種基于小波變換的新型幀內(nèi)模式預(yù)測快速選擇算法，利用小波變換后的低頻子圖結(jié)合改進(jìn)后的Pan算法作幀內(nèi)模式預(yù)測選擇，由此預(yù)判斷宏塊中每個(gè)4×4子塊可能的預(yù)測模式。實(shí)驗(yàn)結(jié)果表明,與未使用快速算法及Pan算法相比，該算法在保證了視頻編碼質(zhì)量的同時(shí)，H.264/AVC幀內(nèi)編碼速度得到顯著提高。

1 H.264/AVC的幀內(nèi)預(yù)測模式

在H.264/AVC標(biāo)準(zhǔn)中，幀內(nèi)預(yù)測分為亮度分量和色度分量幀內(nèi)預(yù)測兩類。其中亮度分量又分成兩種，一種是Intra 4×4亮度塊的預(yù)測，共包括9種預(yù)測模式，其中包括一種DC模式和8種具有方向性的預(yù)測模式；還包含一種預(yù)測，共有4種預(yù)測模式，分別稱為垂直預(yù)測模式、水平預(yù)測模式、均值預(yù)測模式和平面預(yù)測模式，Intra 16×16較適用于編碼圖像中的平滑區(qū)域。色度分量的預(yù)測模式是Intra 8×8，有與Intra 16×16基本相同的4種預(yù)測模式[7]。而用全搜索算法找到一個(gè)16×16宏塊的最優(yōu)幀內(nèi)預(yù)測模式需要進(jìn)行(9×16+4)×4=592次計(jì)算,計(jì)算量非常大。

2 基于小波變換的Pan算法改進(jìn)算法

由于幀內(nèi)預(yù)測的各個(gè)模式具有很強(qiáng)的方向性，并且最佳模式和次最佳模式往往具有類似的預(yù)測方向，即最佳模式和次最佳模式在預(yù)測方向圖上通常是相鄰的，因此,利用邊緣方向矢量直方圖的方法來進(jìn)行幀內(nèi)預(yù)測算法的改進(jìn)，決定對當(dāng)前塊模式的選擇。在直方圖中，令最大值和次最大值分別代表預(yù)測時(shí)的最佳模式和次最佳模式。當(dāng)二者相差不大且相鄰時(shí)，說明圖像的紋理對應(yīng)的是最大值及其相鄰值對應(yīng)的預(yù)測模式；當(dāng)二者相差不大但不相鄰時(shí)，說明圖像塊的紋理混亂，可以直接采用DC模式來預(yù)測;當(dāng)二者相差較大時(shí)，說明當(dāng)前塊的主要紋理方向一定是最大值對應(yīng)的方向，這時(shí)可以直接采用最大值的預(yù)測模式。為衡量最大值與次最大值的差值，本文引入一個(gè)閾值M。當(dāng)最大值大于M次最大值時(shí)，二者相差足夠大。在得到最佳模式、次最佳模式和最可能模式以后，通過比較最大值與次最大值就能選擇出最終的預(yù)測模式。

改進(jìn)后的幀內(nèi)4×4塊預(yù)測算法流程圖如圖1所示。在完成4×4亮度塊模式選擇后，繼續(xù)對16×16塊計(jì)算每個(gè)點(diǎn)點(diǎn)額邊緣矢量強(qiáng)度和方向，然后建立邊緣方向矢量直方圖并得到最大值模式，預(yù)測最大值模式與DC模式。色度塊預(yù)測與之類似。算法中設(shè)定閾值M=3。

圖1 改進(jìn)的幀內(nèi)4×4亮度塊模式選擇算法流程圖

3 實(shí)驗(yàn)結(jié)果及分析

在H.264/AVC標(biāo)準(zhǔn)模型JM10.1中進(jìn)行實(shí)驗(yàn)仿真，測試序列為兩個(gè)紋理復(fù)雜度不同的CIF標(biāo)準(zhǔn)序列Foreman序列和Football序列。并且在不同量化參數(shù)QP下將本文方法與全搜索方法及Pan方法進(jìn)行比較。其中Bitrate代表編碼位率，PSNR代表亮度分量Y的峰值信噪比。實(shí)驗(yàn)時(shí)編碼碼流為30幀/s,實(shí)驗(yàn)結(jié)果如表1和表2所示。

表1 Foreman序列實(shí)驗(yàn)結(jié)果

表2 Football序列實(shí)驗(yàn)結(jié)果

由表1和表2可以看出，本文算法與全搜索及Pan方法相比，在提高了模式選擇算法速度、節(jié)省編碼時(shí)間的同時(shí)，基本保持了PSNR，且比特率增長不大。這是由于本文首先用小波變換將圖像分解，只在低頻子帶進(jìn)行模式選擇，降低了搜索范圍，同時(shí)在搜索時(shí)設(shè)置了一個(gè)閾值，將不符合要求的模式排除,大大降低了運(yùn)算量。

圖2和圖3分別為QP=25時(shí)Foreman第95幀和Football第34幀編碼后的效果圖。從主觀上看，本文方法能夠保證圖像質(zhì)量。

本文主要研究了基于小波變換的新型H.264/AVC的幀內(nèi)模式預(yù)測快速選擇算法。本文改進(jìn)的方向是縮小預(yù)測模式的搜索范圍，根據(jù)當(dāng)前塊與相鄰像素的特征排除可能性小的預(yù)測模式，減少代價(jià)函數(shù)的計(jì)算量，從而達(dá)到優(yōu)化的目的。本文在邊緣矢量方向直方圖算法的基礎(chǔ)作了改進(jìn)，通過比較最佳模式、次最佳模式與最可能模式來進(jìn)行幀內(nèi)預(yù)測的模式選擇。與Pan算法相比，本文算法在保證視頻圖像PSNR的同時(shí)，能夠大幅度降低模式選擇的個(gè)數(shù)，提高編碼效率。但該算法在邊緣矢量的計(jì)算上復(fù)雜度較大，在后面的工作中，可以更多地使用一些先進(jìn)知識來進(jìn)一步降低模式選擇的計(jì)算復(fù)雜度，提高編碼效率。

圖2 在QP=25時(shí)對Foreman第95幀編碼的效果圖

圖3 在QP=25時(shí)對Football第34幀編碼的效果圖

[1]ITU-T Rec H.264/ISO/IEC 14496-10 JVT-G050∶Final draft international standard of joint video specification[S].JVT,2005.

[2]WIEGAND T,SULLIVAN G,BJNTEGAARD G,et al.Overview of the H.264/AVC video coding standard[J].IEEE Transactions on Circuits and Systems for Video Technology,2003,13(7)∶560-576.

[3]PAN F,LIN X,RAHARDJA S,et al.A directional field based fast intra mode decision algorithm for H.264 video coding[C].2004 IEEE International Conference on Multimedia and Expo,ICME′04,Singapore,2004∶1147-1150.

[4]ELYOUSFI A,TAMTAOUI A,BOUYAKHF EL H.Fast mode decision algorithm for intra prediction in H.264/AVC video coding[J].International Journal of Computer Science and Network Security,2007,7(1)∶356-364.

[5]李世平,蔣剛毅,郁梅.快速幀內(nèi)預(yù)測模式選擇新方法[J].電子學(xué)報(bào),2006,34(1)∶141-146.

[6]邵娟,張衛(wèi)寧,魏磊,等.AVS中幀內(nèi)預(yù)測模式的快速選擇策略[J].計(jì)算機(jī)工程與應(yīng)用,2009,45(25)∶163-65.

[7]WIEGANG T,SULIVAN G.BJONTEGAARD G,et al.Overview of the H.264/AVC video coding standard[J].IEEE Transactions on Circuits System Video Technology,2003,13(7)∶560-576.