A study on analytical transform kernel derivation for Versatile Video Coding (VVC)

Abstract

Versatile Video Coding (VVC)의 표준화에서는 DCT-2 (Discrete Cosine Transform-2), DST-7 (Discrete Sine Transform-7), DCT-8 (Discrete Cosine Transform-8)이 주변환커널로 사용되고 있다. 그러나 이들 변환 커널과 함께 DST-4 (Discrete Sine Transform-4)와 DCT-4 (Discrete Cosine Transform-4)도 역시 그 압축 성능과 구현성 복잡도 이득으로 인해 표준화 과정 중 주 변환 커널로 고려되어왔다. 구현 복잡도의 이점으로 인해 DST-4와 DCT-4는 DST-7과 DCT-8 변환 커널의 대안으로 사용될 수 있다. 그러나 이러한 다양한 종류의 변환 커널과 크기는를 정수 계수로 저장하기 위해선느 많은 메모리가 필요하며 이 것은 VVC 비디오 코덱 중요한 복잡도 문제가 될 수 있다. 이러한 문제를 해결하기 위하여 본 학위 논문에서는 unified sparse 행렬의 개념을 제안하고, 이 행렬을 이용하여 서로 다른 크기의 변환 커널 매트릭스(DCT-2, DST-7, DCT-8, DST-4, DCT-4)를 간단한 수학적 연산을 통해 얻을 수 있다. 제안하는 unified sparse matrix는 unified-DST-3 행렬과 grouped-DST-7 행렬의 두 부분으로 구성된다. unified-DST-3 행렬은 서로 다른 크기의 변환 커널 DCT-2, DST-4 및 DCT-4 변환 커널을 유도 사용되며, gruped-DST-7 행렬은 다양한 크기의 DST-7 및 DCT-8 변환 커널을 도출하는 데 사용된다. grouped-DST-7 행렬에서 32 픽셀 크기의 DST-7에 대해 두 가지 접근방식(Approach 1과 Approach 2)을 이용할 수 있다. 실험은 공통 테스트 조건(CTC)에 따라 VTM-3.0 참조 소프트웨어에서 수행되었고 제안하는 방법의 BDBR 결과는 AI와 RA 조건에 대해 압축 성능에 영향을 주지 않았고으나 기존의 방법에 비해 79.85%의 메모리 저감 효과를 얻을 수 있었다. |In the standardization of Versatile Video Codec (VVC), DCT-2 (Discrete Cosine Transform-2), DST-7 (Discrete Sine Transform-7), and DCT-8 (Discrete Cosine Transform-8) are being regarded as the major transform kernels. However, along with the defined transform kernels, DST-4 (Discrete Sine Transform-4) and DCT-4(Discrete Cosine Transform-4) are also counted as the basic transform kernels. Usually, DST-4 and DCT-4 can be used as the replacement of the DST-7 and DCT-8 transform kernels respectively for their effectiveness in smaller resolution sequences. While storing all those transform kernels, memory usage is regarded as the major issue. To deal with this scenario, a common sparse unified matrix concept is introduced in this thesis paper from which any point transform kernel matrix can be obtained i.e. DCT-2, DST-7, DCT-8, DST-4 and DCT-4 after some mathematical operations. The defined common sparse unified matrix is composed up of two parts: unified DST-3 matrix and grouped DST-7 matrix. Unified DST-3 matrix is used to derive different block size DCT-2, DST-4 and DCT-4 transform kernels whereas the grouped DST-7 matrix is used to derive different block size DST-7 and DCT-8 transform kernels. In the grouped DST-7 matrix concept, two approaches (approach 1 and approach 2) has been introduced for the 32-point DST-7 to make 32-point DST-7 transform kernel compatible with the proposed algorithm. Similarly, the tuning of one element of the certain row of the DST-7 transform kernel affects other rows of DST-7 transform kernel is also shown in the proposed grouping concept of the DST-7 transform kernel matrix. The transform kernels used for simulation are DCT-2, DST-7 and DCT-8. The simulation is conducted in VTM-3.0 reference software under the common test condition (CTC). The BDBR results of the proposed methods showed no significant loss for AI and RA. However, for LDB, approach 1 showed a gain of 0.21% for V-chroma and less significant loss of 0.09% for U-chroma whereas approach 2 showed a gain of 0.05% for V-chroma and loss of 0.30% for U-chroma. Similarly, the proposed method has no significant impact on the encoding and decoding time which shows that there is no complexity issue in the proposed method even with 79.85% memory reduction.