H.264/AVC는 부호화 성능을 향상시키기 위해 많은 최신의 기술들을 채택하였지만, 그 결과 부호화기의 복잡도가 매우 증가하였다. 특히 화면내(intra) 예측 부호화에서는 주변블록과의 방향성 상관도에 따라 4${ imes}$4 휘도블록은 9개, 16${ imes}$16 휘도블록과 8${ imes}$8 색차블록은 각각 4개의 부호화 모드가 있는데, 이들 중 최적의 모드는 율-왜곡 최적화(RDO) 기법에 의해 선택한다. 따라서 하나의 매크로블록을 부호화하기 위해서는 592번의 RDO 계산을 수행해야 한다. 본 논문에서는 간단한 구조의 방향성 마스크와 주변블록의 모드정보를 이용하여 RDO 계산의 대상이 되는 모드의 개수를 줄임으로써 부호화 복잡도를 줄이는 알고리즘을 제안한다. 제안한 방법은 RDO 계산을 최대132회로 줄이고 부호화 시간을 전역탐색(exhaustive search)에 비해 $70\%$까지 줄이면서 PSNR 및 비트율 변화가 거의 없음을 실험을 통해 보이고 있다.
The emerging H.264/AVC video coding standard improves coding performance significantly by adopting many advanced techniques. This is achieved at the expense of great increasing encoder complexity. Specifically the intra prediction using RDO examines all possible combinations of coding modes, which depend on spatial directional correlation with adjacent blocks. For 4${ imes}$4 luma blocks, there are 9 modes, and for 16${ imes}$16 luma and 8${ imes}$8 chroma blocks, there are 4 modes, respectively. Therefore the number of mode combinations for each macroblock is 592. This paper presents a method to reduce the RDO complexity using simple directional masks and neighboring modes. According to the proposed method, we reduce the number of mode combinations to 132 at the most. Experimental results show the proposed method reduces the encoding time up to $70\%$ with negligible loss of PSNR and bitrate increase compared to the H.264/AVC exhaustive search.
