優(yōu)化編碼樹單元級比特分配算法

楊栩，郭紅偉，李婉雪

優(yōu)化編碼樹單元級比特分配算法

楊栩1，2*，郭紅偉3，4，李婉雪1

（1.成都師范學院 物理與工程技術學院，成都 611130； 2.重慶郵電大學 通信與信息工程學院，重慶 400065； 3.紅河學院 工學院，云南 蒙自 661199； 4.電子科技大學 信息與通信工程學院，成都 611731）（ ? 通信作者電子郵箱yangxu@cdnu.edu.cn）

新一代視頻編碼標準H.266/VVC（Versatile Video Coding）的碼率控制算法采用編碼參數(shù)相互獨立的率失真優(yōu)化技術。然而，同一幀內(nèi)的編碼樹單元（CTU）間在空域上相互影響，且存在全局編碼參數(shù)；同時，CTU級比特分配公式采用近似的編碼參數(shù)分配比特，進而降低了碼率控制精度和編碼性能。針對上述問題，提出空域全局優(yōu)化CTU級比特分配算法RTE_RC（Rate Control with Recursive Taylor Expansion），并通過遞歸算法逼近全局編碼參數(shù)。首先，建立空域全局優(yōu)化比特分配模型；其次，應用遞歸算法求解CTU級比特分配模型中的全局拉格朗日乘子；最后，優(yōu)化編碼單元的比特分配并對編碼單位進行編碼。實驗結果表明，在低延時P（Prediction）幀（LDP）配置下，與碼率控制算法VTM_RC相比，所提算法的碼率控制誤差由0.46%下降至0.02%，碼率節(jié)省了2.48個百分點，編碼時間下降了3.52%，顯著提升了碼率控制精度和率失真性能。

比特分配；全局拉格朗日乘子；碼率控制；遞歸泰勒展開；VVC

0 引言

通信技術的發(fā)展使視頻數(shù)據(jù)在互聯(lián)網(wǎng)中大規(guī)模傳輸變?yōu)榭赡?，移動互?lián)網(wǎng)技術的普及使視頻數(shù)據(jù)傳輸?shù)男枨罅恳苍絹碓酱螅邢薜膸掚y以滿足海量增長的視頻數(shù)據(jù)傳輸需求，視頻數(shù)據(jù)壓縮變得越發(fā)重要，視頻編解碼也成了學術界和工業(yè)界研究的重點。在最新一代視頻編碼標準H.266/VVC（Versatile Video Coding）下，壓縮率進一步提升，相同主觀質(zhì)量下節(jié)省了50%左右的碼率，但也極大地增加了編碼復雜度。

碼率控制（Rate Control， RC）［1］是視頻編碼最主要的研究內(nèi)容之一，廣泛應用于視頻數(shù)據(jù)的編碼和傳輸，特別是線上會議系統(tǒng)、直播平臺等對實時性要求比較高的應用。在帶寬限制條件下，實時傳輸質(zhì)量穩(wěn)定的視頻數(shù)據(jù)并平衡壓縮率、復雜度和準確率是碼率控制中的復雜優(yōu)化問題。

碼率控制算法不僅影響視頻的壓縮效果，也影響視頻的傳輸時延。碼率控制分為比特分配和碼率控制兩個階段，碼率控制算法的目標可以總結為兩方面：1）使目標碼率在不同層次的編碼單元上根據(jù)圖像復雜度合理分配，圖像復雜度由已編碼幀的率失真性能反映；2）分配的目標碼率盡可能完全使用，使實際編碼碼率和目標碼率的誤差趨近于零。

-模型中，拉格朗日乘子不僅可以用于比特分配階段，在碼率控制階段，也可以使用它計算QP后直接用于編碼；因此拉格朗日乘子會影響碼率控制精度和編碼率失真性能［6］，對碼率控制效果產(chǎn)生決定性的影響。為了降低編碼復雜度，編碼器忽略編碼單元間在時域、空域上的相關性，獨立計算各個編碼單元的失真、編碼比特和率失真代價。編碼器利用拉格朗日乘子進行預測模式的對比選擇，然而編碼單元間的編碼參數(shù)在時域、空域、頻域上存在密切的聯(lián)系，特別是幀間預測采用的運動補償預測（Motion Compensated Prediction， MCP）和運動矢量預測（Motion Vector Prediction， MVP）使編碼單元在時域上存在相互依賴，所以許多研究［7-9］圍繞考慮相關性的率失真優(yōu)化展開，還有部分研究圍繞優(yōu)化比特分配展開。文獻［4］中在幀級比特分配中考慮編碼幀的時域相關性，通過改變?nèi)掷窭嗜粘俗拥臋嘀叵禂?shù)為不同層級編碼幀分配比特，在編碼樹單元（Coding Tree Unit， CTU）級比特分配中，根據(jù)圖像復雜度為CTU分配比特。文獻［10］中提出了用遞歸泰勒展開（Recursive Taylor Expansion，RTE）法計算全局拉格朗日乘子，并應用到HEVC（High Efficiency Video Coding）碼率控制算法。文獻［11-12］中將全局拉格朗日乘子應用到HEVC碼率控制算法的比特分配階段和碼率控制階段。文獻［13］中提出了一種多目標碼率控制，即在碼率控制算法中減小編碼失真，保證碼率控制精度和減小質(zhì)量波動等多個目標的聯(lián)合優(yōu)化。文獻［14］中在參考幀和已編碼幀之間建立依賴因子，并用于自適應比特分配算法，編碼復雜度也有所增加。文獻［15］中以結構相似性（Structural SIMilarity， SSIM）為評價指標優(yōu)化比特分配。文獻［16］中通過編碼單元中選擇SKIP模式的像素占比建立相應的碼率控制模型，并應用到VVC參考代碼中。然而在CTU級比特分配算法中，為了降低計算復雜度，VVC直接用同層級上一幀的幀級拉格朗日乘子分配編碼幀的目標比特，由于當前編碼幀和同層級上一幀的目標比特有較大的差距，使用相同的拉格朗日乘子進行比特分配不準確，碼率控制精度和率失真性能仍然有進一步提升的空間。

比特分配公式為復雜的非線性函數(shù)，難以直接獲取它的解析解。文獻［17］中通過迭代算法逼近封閉解，從而優(yōu)化碼率控制；但是該算法重在優(yōu)化計算機實現(xiàn)，沒有從編碼上建立完備的理論模型。受此啟發(fā)，雖然同一幀內(nèi)的CTU之間不存在時域相關性，但是當前編碼CTU的編碼性能受到它鄰近已編碼CTU的影響，在空域上存在相關性。為了能在空域上全局優(yōu)化比特分配，有必要建立它的數(shù)學模型，確定全局編碼參數(shù)，再通過迭代算法逼近它的全局解，并應用到新一代視頻編碼標準VVC。

目前VVC碼率控制算法采用-模型，在CTU級碼率控制中，由于當前幀還未編碼，編碼參數(shù)未知。為了簡化問題，在分配幀級目標比特時，使用圖像組（Group of Pictures， GOP）中同一層級的最近已編碼幀的參數(shù)分配比特，由于使用已編碼幀參數(shù)計算的比特和當前編碼幀的目標比特不一致，將導致碼率控制誤差的累積。本文提出空域全局優(yōu)化編碼樹單元級比特分配算法RTE_RC（Rate Control with Recursive Taylor Expansion），將碼率分配公式中的全局拉格朗日乘子作為未知數(shù)，用目標比特和分配公式建立一個關于未知參數(shù)拉格朗日乘子的方程，使用RTE法［17］求解全局拉格朗日乘子，并應用于VTM（VVC Test Model）12.0中以優(yōu)化CTU級比特分配，通過極少步的遞歸逼近全局解，降低編碼復雜度，提升性能。

1 VVC碼率控制算法

VVC碼率控制算法分為比特分配和碼率控制兩個階段。比特分配階段將目標比特分配到不同的編碼單元，即算法依據(jù)輸入視頻的內(nèi)容、傳輸信道中帶寬的上限和緩沖器的狀態(tài)為編碼單元分配恰當?shù)谋忍財?shù)；在碼率控制階段，編碼單元確定相應的量化參數(shù)QP以編碼，即通過選擇不同的量化參數(shù)使編碼后的比特數(shù)和分配的比特數(shù)盡可能接近。

1.1　R-λ模型

為了降低編碼復雜度，VVC碼率控制技術同樣采用獨立率失真優(yōu)化技術，碼率控制問題變?yōu)樵谀繕舜a率限定條件下最小化編碼失真的問題，表達式為：

其中：為編碼單元數(shù)；P為第個編碼單元的參數(shù)（如量化參數(shù)、運動向量、劃分方式等）；D和R分別為第個編碼單元的編碼失真和比特消耗；T為目標碼率。

VVC標準參考代碼VTM，采用信源服從柯西分布［18］的率失真模型：

其中：和為模型參數(shù)；和分別為編碼失真和編碼比特，分別用均方誤差（Mean Square Error， MSE）和單位像素所占比特（bit per pixel， bpp）表示。MSE通過原始幀和重建幀對應像素的均方誤差求得，而bpp則通過目標碼率與對應的像素總數(shù)的比值計算，碼率控制算法在視頻序列、GOP、幀、CTU不同層級進行比特分配，對應地，在不同層級上都有相應的bpp值。

通過拉格朗日乘子法將式（1）所示的有約束優(yōu)化問題轉(zhuǎn)化為無約束優(yōu)化問題，即

其中：為所有編碼單元的率失真代價之和；g為全局拉格朗日乘子，即整個視頻序列共享該拉格朗日乘子。式（3）中各離散變量間高度耦合，難以求解視頻編碼的優(yōu)化問題。為簡化問題，假設各編碼單元互不相關，即每個編碼單元的編碼失真和編碼比特數(shù)只與當前編碼單元的編碼參數(shù)有關，獨立求解每個編碼單元最優(yōu)編碼參數(shù)問題如下：

式（6）中的參數(shù)在編碼完一幀或者一個CTU后，自動更新。根據(jù)式（2）和式（6）可以得到參數(shù)更新公式：

可以看出，碼率控制算法中的量化參數(shù)和拉格朗日乘子的對數(shù)可以用線性函數(shù)關系擬合。

1.2　編碼樹單元級比特分配

2 優(yōu)化CTU級比特分配

為簡化編碼問題、降低復雜度，將各編碼單元看作相互獨立的個體，通過拉格朗日乘子法將約束性優(yōu)化問題轉(zhuǎn)換為非無約束性優(yōu)化問題。為了能全局優(yōu)化CTU級比特分配，需要找到最優(yōu)參數(shù)并求解，再用于優(yōu)化比特分配。

2.1　空域上全局優(yōu)化比特分配問題

對于不考慮幀間CTU時域相關性的優(yōu)化比特分配問題，即在編碼幀目標比特限定條件下最小化編碼失真，需要優(yōu)化的參數(shù)為比特，編碼第個CTU時，式（4）對r求偏導為0，建立等式：

幀內(nèi)所有CTU采用基于全局拉格朗日乘子g的-模型，可以優(yōu)化比特分配，使編碼失真最小。CTU都用相同的拉格朗日乘子意味著一幀內(nèi)每一個比特的作用都相同，即增減一個比特所帶來失真變化相同。CTU級比特分配問題為：在給定幀目標比特條件下，通過已編碼幀對應CTU相關參數(shù)分配比特。計算公式如下：

2.2　比特分配公式的泰勒展開式

根據(jù)上文的-模型，可得幀級分配的比特與各編碼單元分配的比特關系為：

截斷式（17）的4階及其以上項，可得：

將式（18）代入式（16）可得：

2.3　RTE求解編碼用并優(yōu)化比特分配

實際編碼中遞歸結束條件為式（24）～（25）：

2.4　算法流程

算法 RTE_RC算法。

目標 計算全局拉格朗日乘子，并用于優(yōu)化編碼樹單元級比特分配；

初始化 將參數(shù)初始化為同級上一幀相關參數(shù)。

for 每一個編碼幀

通過初始拉格朗日乘子計算式（19）中、、、、、、

if 式（24）滿足遞歸結束條件

若滿足，結束遞歸

else

執(zhí)行下一次循環(huán)

for 每一個CTU

碼率控制階段進行編碼并更新CTU參數(shù)

if 最后一個CTU

更新幀參數(shù)

else

編碼下一個CTU

完成視頻序列編碼

3 實驗與結果分析

3.1　實驗設置

為驗證本文算法（RTE_RC）的有效性，將算法集成到VVC參考軟件VTM12.0的碼率控制算法中。以VTM12.0不開啟碼率控制作為基準，分別使用QP值22、27、32、37編碼每個測試序列，所得的4個碼率值作為碼率控制實驗的目標碼率。

實驗條件遵守國際編碼標準組織JCT-VC（The Joint Collaborative Team on Video Coding）建議的通用測試條件 （Common Test Conditions， CTC），選用JCTVC-L1100［21］建議的具有不同分辨率類型的視頻作為測試視頻，包括ClassB、ClassC、ClassD和ClassE中的全部16個視頻序列。編碼器配置為低延時P幀（Low-Delay Prediction frame， LDP）。實驗環(huán)境為Inter Core i7-7700K，CPU@4.2 GHz，內(nèi)存16 GB，X64處理器，Windows10操作系統(tǒng)。

碼率控制算法是在目標碼率的限定下，盡可能降低失真，編碼時間是衡量算法復雜度的重要參數(shù)，所以碼率控制算法優(yōu)劣的評價指標包括碼率控制精度、編碼時間和碼率節(jié)省BD-rate（Bj?ntegaard-Delta rate）。

碼率控制精度為計算實際編碼碼率和目標碼率的誤差率，計算公式為：

BD-rate是評價視頻編碼算法率失真性能的主要參數(shù)之一，表示新算法相較于原算法的碼率節(jié)省。BD-rate為負值時，表示在相同峰值信噪比（Peak Signal-to-Noise Ratio， PSNR）下碼率節(jié)省，反之碼率增加。格式為YUV420的原始視頻包含亮度Y、色度U、色度V這3個通道，人眼對亮度更加敏感，一般主要比較亮度分量的BD-rate（Y）。

編碼時間是衡量算法編碼復雜度的重要指標，通過比較絕對編碼時間或者相對編碼時間評價編碼復雜度。

3.2　對比算法

為了說明RTE_RC的有效性，將RTE_RC與主流算法進行對比?；鶞仕惴镠.266/VVC的參考代碼自帶的碼率控制算法（Rate Control algorithm Versatile Test Model ， VTM_RC），基準算法集成了最新的編碼算法，在此基礎上還能提升編碼性能，具有較好的對比意義。碼率控制中的目標碼率是通過固定QP算法（FIXED_QP）編碼每一個視頻序列獲得。文獻［22-23］算法是碼率控制中非常經(jīng)典的算法，文獻［22］算法實現(xiàn)低復雜度下質(zhì)量穩(wěn)定的碼率控制，文獻［23］算法在-模型下實現(xiàn)自適應比特分配。為了進一步提升率失真性能，文獻［16］算法考慮了殘差系數(shù)為0的SKIP模式對編碼率失真參數(shù)的影響，并建立質(zhì)量依賴因子用于編碼，取得了較好的率失真性能。本文實驗主要從編碼時間、碼率控制精度和碼率節(jié)省三方面進行對比分析。

3.3　碼率控制精度對比

3.4　率失真性能對比

本文實驗還對比了不同算法的BD-rate，如表1所示。RTE_RC總體平均BD-rate為0.55%，遠低于VTM-RC算法的3.03%，碼率節(jié)省了2.48個百分點。與文獻［16］算法相比，RTE_RC的率失真性能較低，這是因為RTE_RC以VTM為基準，而文獻［16］算法以HM為基準。RTE_RC在率失真性能上也優(yōu)于文獻［22-23］算法。

表1　不同比特分配優(yōu)化算法性能對比 單位：%

為了直觀地觀察率失真性能提升情況，圖1給出了不同測試序列中，在LDP下RTE_RC與VTM_RC的率失真曲線。從圖1可以看出，PSNR越高，率失真性能越好， RTE_RC率失真性能優(yōu)于VTM_RC。

圖1　不同算法在不同測試序列中的率失真性能比較

表2對比了不同算法下亮度分量（Y）和色度分量（U、V）的BD-rate。RTE_RC色度分量的平均BD-rate分別為-2.10%和-1.98%，VTM_RC色度分量的平均BD-rate分別為3.40%和3.63%，RTE_RC在色度分量上的碼率節(jié)省更多。

表2　各分量在VTM_RC和RTE_RC下BD-rate對比 單位：%

由于VTM通過滑動窗將誤差往后累積并平均分配到未編碼幀，越往后，突擊消化誤差的情況越多，不僅影響編碼率失真性能，還會增加控制誤差。本文算法針對圖像變化緩慢的視頻序列效果更明顯，對于人像視頻或者背景固定的視頻，圖像率失真特性較穩(wěn)定，如果分配得更準，則更符合編碼單元的率失真特性。表1中ClassE類的BD-rate節(jié)省最多也說明了這個問題。

3.5　編碼時間對比

RTE_RC、VTM_RC與用于計算目標碼率的固定QP編碼算法（FIXED_QP）編碼所有測試序列所用絕對時間如表3所示。

從表3可以看出，RTE_RC的編碼時間低于VTM_RC和FIXED_QP，并且RTE_RC相較于VTM_RC的編碼時間減少了3.52%。雖然采用遞歸算法，但是編碼復雜度沒有提高，主要原因是：1）次數(shù)較少，每次遞歸不超過3次就能達到10-10的控制誤差，遞歸算法相較于運動搜索和其他編碼環(huán)節(jié)所花時間較少；2）更精準的碼率控制，或者更符合編碼單元率失真特性的比特分配，使圖像更穩(wěn)定，不存在圖像質(zhì)量波動較大的情況，從長遠看，能在編碼模式選擇和圖像劃分中節(jié)省時間；3）因為率失真性能的提升，編碼模式選擇時間更少，如背景固定的視頻，有更大可能選擇SKIP編碼模式，從而縮短時間。

表3　不同算法的編碼時間對比 時間：h

4 結語

線上視頻會議、線上教學正逐步得到推廣，而高穩(wěn)定低延時系統(tǒng)是保證良好用戶體驗的前提，這也對碼率控制算法提出了更高的要求，進一步提高碼率控制精度和率失真性能，同時降低編碼時間是碼率控制面臨的主要問題。本文分析了VVC碼率控制系統(tǒng)的-模型，通過遞歸泰勒展開法計算每幀中所有CTU的全局拉格朗日乘子并應用于更新CTU權重系數(shù)，以此優(yōu)化比特分配。實驗結果表明，RTE_RC能較大程度提高碼率控制精度和率失真性能，而且縮短了編碼時間。但是本文主要解決了比特優(yōu)化分配的問題，如何能讓分配的比特使用得更合理是下一步研究的重點。

[1] 郭紅偉，朱策，周益民. HEVC 碼率控制技術的研究進展［J］. 重慶郵電大學學報（自然科學版）， 2018， 30（2）： 199-209.（GUO H W， ZHU C， ZHOU Y M. Recent advances on rate control for HEVC［J］. Journal of Chongqing University of Posts and Telecommunications （Natural Science Edition）， 2018， 30（2）：199-209.）

[2] LIU Y， LI Z G， SOH Y C. A novel rate control scheme for low delay video communication of H.264/AVC standard［J］. IEEE Transactions on Circuits and Systems for Video Technology， 2007， 17（1）： 68-78.

[3] HE Z， KIM Y K， MITRA S K. Low-delay rate control for DCT video coding via /spl rho/-domain source modeling［J］. IEEE Transactions on Circuits and Systems for Video Technology， 2001， 11（8）： 928-940.

[4] LI L， LI B， LI H， et al.-domain optimal bit allocation algorithm for high efficiency video coding［J］. IEEE Transactions on Circuits and Systems for Video Technology， 2018， 28（1）： 130-142.

[5] LI B， LI H， LI L， et al. λ domain rate control algorithm for high efficiency video coding［J］. IEEE Transactions on Image Processing， 2014， 23（9）： 3841-3854.

[6] 郭紅偉，朱策，劉宇洋. 視頻編碼率失真優(yōu)化技術研究綜述［J］. 電子學報， 2020， 48（5）： 1018-1029.（GUO H W， ZHU C， LIU Y Y. Overview of rate-distortion optimization for video coding［J］. Acta Electronica Sinica， 2020， 48（5）：1018-1029.）

[7] GAO Y， ZHU C， LI S， et al. Temporally dependent rate-distortion optimization for low-delay hierarchical video coding［J］. IEEE Transactions on Image Processing， 2017， 26（9）： 4457-4470.

[8] GAO Y， ZHU C， LI S， et al. Source distortion temporal propagation analysis for random-access hierarchical video coding optimization［J］. IEEE Transactions on Circuits and Systems for Video Technology， 2019， 29（2）： 546-559.

[9] YANG T， ZHU C， FAN X， et al. Source distortion temporal propagation model for motion compensated video coding optimization［C］// Proceedings of the 2012 IEEE International Conference on Multimedia and Expo. Piscataway： IEEE， 2012： 85-90.

[10] LI S， XU M， WANG Z， et al. Optimal bit allocation for CTU level rate control in HEVC［J］. IEEE Transactions on Circuits and Systems for Video Technology， 2017， 27（11）： 2409-2424.

[11] GUO H， ZHU C， XU M， et al. Inter-block dependency-based CTU level rate control for HEVC［J］. IEEE Transactions on Broadcasting， 2020， 66（1）： 113-126.

[12] GUO H， ZHU C， GAO Y， et al. A frame-level rate control scheme for low delay video coding in HEVC［C］// Proceedings of the IEEE 19th International Workshop on Multimedia Signal Processing. Piscataway： IEEE， 2017： 1-6.

[13] LIU F， CHEN Z. Multi-objective optimization of quality in VVC rate control for low-delay video coding［J］. IEEE Transactions on Image Processing， 2021， 30： 4706-4718.

[14] MAO Y， WANG M， WANG S， et al. High efficiency rate control for versatile video coding based on composite Cauchy distribution［J］. IEEE Transactions on Circuits and Systems for Video Technology， 2022， 32（4）： 2371-2384.

[15] LI Y， MOU X. Joint optimization for SSIM-based CTU-level bit allocation and rate distortion optimization［J］. IEEE Transactions on Broadcasting， 2021， 67（2）： 500-511.

[16] LI Y， LIU Z， CHEN Z， et al. Rate control for versatile video coding［C］// Proceedings of the 2020 IEEE International Conference on Image Processing. Piscataway： IEEE， 2020： 1176-1180.

[17] 北京航空航天大學. 一種基于最佳比特分配的HEVC CTU級碼率控制方法：201510882801.X［P］. 2016-03-23.（Beihang University. A HEVC CTU level bit rate control method based on optimal bit allocation： 201510882801.X［P］. 2016-03-23.）

[18] KAMACI N， ALTUNBASAK Y， MERSEREAU R M. Frame bit allocation for the H.264/AVC video coder via Cauchy-density-based rate and distortion models［J］. IEEE Transactions on Circuits and Systems for Video Technology， 2005， 15（8）： 994-1006.

[19] LI B， XU J， ZHANG D， et al. QP refinement according to Lagrange multiplier for high efficiency video coding［C］// Proceedings of the 2013 IEEE International Symposium on Circuits and Systems. Piscataway： IEEE， 2013： 477-480.

[20] LI B， XU J， LI H. Refining QP to improve coding efficiency in AVS［C］// Proceedings of the 2013 IEEE International Conference on Image Processing. Piscataway： IEEE， 2013： 1528-1531.

[21] BOSSEN F. Common test conditions and software reference configurations［EB/OL］. ［2022-04-11］.https：//www.itu.int/wftp3/av-arch/jctvc-site/2010_07_B_Geneva/JCTVC-B300.doc.

[22] WANG M， NGAN K N， LI H. Low-delay rate control for consistent quality using distortion-based Lagrange multiplier［J］. IEEE Transactions on Image Processing， 2016， 25（7）： 2943-2955.

[23] LI B， LI H， LI L. Adaptive bit allocation for R-lambda model rate control in HM［C］// Proceedings of the 13th Meeting of Joint Collaborative Team on Video Coding of ITU-T SG1 6WP3 and ISO/IEC JTC1/SC. ［S.l.］： JCTVC， 2013： 29.

Optimized bit allocation algorithm for coding tree unit level

YANG Xu1，2*， GUO Hongwei3，4， LI Wanxue1

（1，，611130，；2，，400065，；3，，661199，；4，，611731，）

It the rate control algorithms of the new generation video coding standard H.266/VVC （Versatile Video Coding）， the rate-distortion optimization technique with independent coding parameters is adopted. However， the Coding Tree Units （CTUs） within the same frame affect others in the spatial domain， and there are global coding parameters. At the same time， in the CTU-level bit allocation formulas， approximated coding parameters for bit allocation are used， resulting in the reduction of rate control accuracy and coding performance. To address these issues， a spatial-domain global optimization algorithm for CTU-level bit allocation called RTE_RC （Rate Control with Recursive Taylor Expansion） was proposed， and the global coding parameters were approximated by using a recursive algorithm. Firstly， a globally optimized bit allocation model in spatial-domain was established. Secondly， a recursive algorithm was used to calculate the global Lagrange multiplier in the CTU-level bit allocation formula. Finally， the bit allocation of coding units was optimized and the coding units were coded. Experimental results show that under the Low-Delay Prediction frame （LDP） configuration， compared with the rate control algorithm VTM_RC （Rate Control algorithm Versatile Test Model）， the proposed algorithm has the rate control error decreased from 0.46% to 0.02%， the bit-rate saved by 2.48 percentage points， and the coding time reduced by 3.52%. Therefore， the rate control accuracy and rate distortion performance are significantly improved by the proposed algorithm.

bit allocation; global Lagrange multiplier; rate control; Recursive Taylor Expansion (RTE); Versatile Video Coding (VVC)

This work is partially supported by National Natural Science Foundation of China （62061015）， Special Scientific Research Project of Chengdu Normal University （ZZBS2020-11）.

YANG Xu， born in 1983， Ph. D. candidate， lecturer. His research interests include panoramic video coding and communication， machine learning based video coding.

GUO Hongwei， born in 1980， Ph. D.， professor. His research interests include video coding and communication， image processing.

LI Wanxue， born in 1992， Ph. D.， lecturer. Her research interests include image processing， video coding.

1001-9081（2023）10-3195-07

10.11772/j.issn.1001-9081.2022091410

2022?09?22；

2022?11?28；

國家自然科學基金資助項目（62061015）；成都師范學院專項科研項目（ZZBS2020?11）。

楊栩（1983—），男，四川蒼溪人，講師，博士研究生，CCF會員，主要研究方向：全景視頻編碼及通信、基于機器學習的視頻編碼； 郭紅偉（1980—），男，云南金平人，教授，博士，CCF高級會員，主要研究方向：視頻編碼及通信、圖像處理； 李婉雪（1992—），女，四川成都人，講師，博士，主要研究方向：圖像處理、視頻編碼。

TN919.81

A

2022?12?07。