一种基于子块纹理差异的VVC快速CU划分算法_李亚.pdf

D O I:1 0.1 6 1 3 6/j.j o e l.2 0 2 3.0 2.0 2 1 8一种基于子块纹理差异的V V C快速C U划分算法李 亚1,2,李 强1,2*,孟 慧1,2(1.重庆邮电大学 通信与信息工程学院,重庆4 0 0 0 6 5;2.信号与信息处理重庆市重点实验室,重庆4 0 0 0 6 5)摘要:针对多功能视频编码(v e r s a t i l ev i d e oc o d i n g,VV C)由 于 在 四 叉 树(q u a d t r e e,QT)划 分 的 基 础上引入多叉树(m u l t i-t y p e t r e e,MTT)划 分 结 构 导 致 编 码 复 杂 度 过 高 的 问 题,本 文 提 出 了 一 种 基于编码单元(c o d i n gu n i t,CU)子块纹理特征差异 的VV C快 速CU划 分 算 法。该 算 法 能 够 有 效 降低VV C的编码复杂度,缩短编码时间。首先通过不同 划 分 方 向 的 子 块 的 纹 理 复 杂 度 差 异 提 前 判断MTT划分的方向,跳过不必要的MTT划分方向;然后根据当前CU的相邻子块间的 纹 理 差 异判断是否跳过三叉树(t e r n a r yt r e e,TT)划分,以进一步减少候选列表 中 划 分 模 式 的 数 量。实 验 结果表明,在全帧内(a l l i n t r a,A I)的编码配置下,与 官 方 测 试 平 台VTM-7.0相 比,本 文 算 法 平 均 能够节省4 7.2 4%的编码时间,BDB R(B jn t e g a a r dd e l t ab i t r a t e)仅增加1.2 6%。关键词:多功能视频编码;编码单元划分;纹理特征;快速算法中图分类号:T N 9 1 9.8 文献标识码:A 文章编号:1 0 0 5-0 0 8 6(2 0 2 3)0 2-0 2 0 0-0 8Af a s tC Up a r t i t i o na l g o r i t h mf o rV V Cb a s e do n s u b-b l o c k t e x t u r ed i f f e r e n c eL IY a1,2,L IQ i a n g1,2*,M E N GH u i1,2(1.S c h o o l o fC o m m u n i c a t i o na n dI n f o r m a t i o nE n g i n e e r i n g,C h o n g q i n gU n i v e r s i t yo fP o s t sa n dT e l e c o m m u n i c a-t i o n s,C h o n g q i n g4 0 0 0 6 5,C h i n a;2.C h o n g q i n gK e yL a b o r a t o r yo f S i g n a l a n d I n f o r m a t i o nP r o c e s s i n g,C h o n g q i n g4 0 0 0 6 5,C h i n a)A b s t r a c t:A i m i n ga t t h ep r o b l e mo fh i g hc o d i n gc o m p l e x i t yd u et ot h e i n t r o d u c t i o no fm u l t i-t y p et r e e(M T T)p a r t i t i o ns t r u c t u r eb a s e do nq u a d t r e e(Q T)p a r t i t i o n i nv e r s a t i l ev i d e oc o d i n g(V V C),af a s tc o d i n gu n i t(C U)p a r t i t i o n a l g o r i t h mb a s e d o n t h e d i f f e r e n c e o f t e x t u r e f e a t u r e s o f C Us u b-b l o c k s i s p r o-p o s e d i n t h i sp a p e r.T h i s a l g o r i t h mc a n e f f e c t i v e l y r e d u c e t h e c o d i n g c o m p l e x i t yo fV V Ca n d s h o r t e n t h ec o d i n gt i m e.F i r s t l y,t h r o u g h t h e t e x t c o m p l e x i t y d i f f e r e n c e o f s u b-b l o c k s i nd i f f e r e n t p a r t i t i o nd i r e c t i o n s,t h ed i r e c t i o no fM T Tp a r t i t i o ni sj u d g e di na d v a n c e,a n du n n e c e s s a r y M T Tp a r t i t i o nd i r e c t i o n sa r es k i p p e d;T h e n,a c c o r d i n g t o t h e t e x t u r ed i f f e r e n c eb e t w e e na d j a c e n t s u b-b l o c k so f c u r r e n tC U,i t i s f u r-t h e rd e t e r m i n e dw h e t h e r t os k i p t h e t e r n a r y t r e e(T T)p a r t i t i o n,s oa s t o f u r t h e r r e d u c e t h en u m b e ro fp a r t i t i o nm o d e s i n t h e c a n d i d a t e l i s t.T h e e x p e r i m e n t a l r e s u l t s s h o wt h a t u n d e r t h ec o d i n gc o n f i g u r a t i o no f a l l i n t r a(A I),c o m p a r e dw i t ht h eo f f i c i a l t e s tp l a t f o r mV TM-7.0,t h ep r o p o s e da l g o r i t h mc a ns a v e4 7.2 4%o f t h e c o d i n g t i m e o n a v e r a g e,a n d t h eB jn t e g a a r dd e l t ab i t r a t e(B D B R)o n l y i n c r e a s e s b y1.2 6%.K e yw o r d s:v e r s a t i l ev i d e oc o d i n g(V V C);c o d i n gu n i t(C U)p a r t i t i o n;t e x t u r e f e a t u r e s;f a s t a l g o r i t h m0 引 言 随着通信技术和视频技术的发展,人 们对更高分辨率视频的需求在不断增长。尽管高效视频编码(h i g he f f i c i e n c yv i d e oc o d i n g,HE V C)有 着 不俗的编码性能,但在面对4K、8K等高质量视频光 电 子 激 光第3 4卷 第2期 2 0 2 3年2月 J o u r n a l o fO p t o e l e c t r o n i c sL a s e r V o l.3 4N o.2 F e b r u a r y2 0 2 3*E-m a i l:l i q i a n g c q u p t.e d u.c n收稿日期:2 0 2 2-0 3-3 1 修订日期:2 0 2 2-0 6-0 5基金项目:国家自然科学基金(6 2 1 7 6 0 3 5)和重庆市教委科学技术研究项目(K J Z D-K 2 0 2 1 0 0 6 0 6)资助项目所带来的庞大数据量时,其编码效率也显 得捉襟见肘。为了 解 决 这 一 难 题,2 0 1 5年,联 合 视 频 专家组(j o i n t v i d e oe x p l o r a t i o nt e a m,J V E T)便开始了下一代视频编码标 准的制定工 作。2 0 2 0年7月,第一 版 多 功 能 视 频 编 码(v e r s a t i l ev i d e oc o d i n g,VV C)标准正式发布1。VV C采用了多种新的编码技术,如更加灵活的编码单元(c o d i n gu n i t,C U)划分方式2,6 7种 帧 内 预 测 模 式3,仿 射 运 动 估计等4。这些新编码技术的应用,使得VV C的压缩效率 相 比HE V C提 高5 0%以 上5,然 而VV C编码时间相比HE V C也增加了1 0倍以上6,如此高的编码复杂度给VV C标准的推广和实际应用带来巨大困 难。因 此 如 何 在 保 证 编 码 效 率 的 同时,显著降低VV C的编码复杂度成为了当前研究的重点。VV C采用的四叉树(q u a d t r e e,QT)嵌套多叉树(m u l t i-t y p e t r e e,MT T)的C U划分方式,是编码复杂度 提 升 的 主 要 原 因 之 一7。因 此,优 化C U划分结构,实现C U的快速划分,是当前VV C编码加速的重要研究方向。目前C U划分快速算法大致可分为如下两类:基于统计的方法和 基于学习的方法。基于统计方法的C U快速划分算法主要利用视频编码 帧 的 特 征,如 空 时 域 相 关 性、纹 理 特 性等,建立C U划分的统计模型,然后利用这些模型提前终 止C U划 分,或 跳 过 不 必 要 的 划 分 方 式。文献8 首先根据自适应标准差阈 值对C U纹理复杂度进行分类,初步缩减划分模式列表;然后采用S o b e l梯度算子确定纹理方向,跳过非最优划分模式。文献9 提 出 了 一 种 基 于 梯 度 的C U快 速划分算法。该算法首先根据当前C U的整体梯度的大小来判断是否可以直接终止划分,如 果不能终止划分,就 进一步根据C U的 梯度 方 向 判 断 水平和垂直划分的可能性,从而跳过不必要 的划分方式。文献1 0 提出了一种基于纹理方差和梯度特征的C U快速划 分算法。首先 利用S o b e l算子提取梯度特征来决定当前是进行MT T划分还是QT划分,如果是MT T划分,再通过方差从MT T划分方式中 选 择 一 种 作 为 最 佳 划 分 方 式。文 献1 1 提出了一种基于灰度共生矩阵的C U快速划分算 法。该 算 法 通 过 灰 度 共 生 矩 阵 计 算C U的 纹 理 方 向,跳 过MT T的 水 平 方 向 或 者 垂 直方向。在基于学习的方法中,C U的最佳划分方式可以从大量的数据中自动学习,从而跳过非 最佳划分方式。文献1 2 提出了一种基于深度学习的帧内C U快速划分算法。该算法首先构建多阶段退出划分机制的神经网络模型,依次对包括 不划分在内的最多6种模式进行决策,然后通