H.264/AVC 부호화 표준은 부호화 효율을 향상시키기 위하여 기존의 부호화 표준들과는 다른 새로운 부호화 기법들을 사용한다. 그러나 새로이 채택된 여러 기법들로 인해 H.264/AVC 표준 부호기 및 복호기의 복잡도는 극단적으로 증가하게 되었다. 특히 율-왜곡 최적화 기법에 의한 H.264/AVC의 인터/인트라 모드 결정 방법은 부호기의 복잡도를 증가시키는 가장 큰 원인 중 하나이다. 본 논문에서는 매크로블록 모드 결정 과정의 복잡도 감소에 주안점을 두며, 이에 대한 고속 매크로블록 모드 결정 알고리즘을 제안한다. 제안하는 방식에서는 간단한 구조의 $4{ imes}4$ 정방형 필터와 블록 간 공간적 상관도를 이용하여 $Intra4{ imes}4$ 모드 결정에 따른 율-왜곡 계산량을 줄이며, $Inter8{ imes}8$ 모드 내 서브 매크로블록의 최적모드를 통해 현재 매크로블록에서 인트라 모드 결정 과정을 선택적으로 생략하도록 하는 알고리즘을 제안하였다. 또한, 선택 가능한 매크로블록 모드 중 상대적으로 복잡도와 발생 비트율이 낮은 SKIP, $Intra16{ imes}16,;Intra16{ imes}16$ 모드에 대한 발생 빈도수를 높여 발생 비트율을 낮추도록 하였다. 제안한 알고리즘을 적용한 실험 결과 최대 83%의 부호화 시간을 단축시킬 수 있었으며, 미미한 PSNR의 변화량에 비해 발생 비트율을 평균 $8%{sim}10%$ 감소시킴으로써 전체 부호화 효율을 향상시킬 수 있었다.
For the improvement of coding efficiency, the H.264/AVC video coding standard employs new coding tools compared with existing coding standards. However, due to these new coding tools, the complexity of K264/AVC standard encoder is greatly increased. Specifically, the inter/intra mode decision method using RDO(rate-distortion optimization) technique is one of the most complex parts in H.264/AVC. In this paper, we focus on the complexity reduction in macroblock mode decision. In the proposed method, we reduce the complexity of the $4{ imes}4$ mode decision process using $4{ imes}4$ simple square filters, and using spatial block correlation method. Additionally, exploiting the best mode of sub_macroblock in $Inter8{ imes}8$ mode, we proposed an algorithm to eliminate some intra modes in current macroblock mode decision process. In addition, we employed a method to raise the probability to select SKIP, $Intra16{ imes}16$, and $Intra16{ imes}16$ modes which usually show low complexity and low bitrate compared with other modes. From the simulation results, the proposed algorithm reduce the encoding time by maximum 83% of total, and reduce the bitrate of the overall sequences by $8{sim}10%$ on the average compared with existing coding methods.
