본 논문에서는 H.264 부호화기에서 고속의 율-왜곡 최적화된 모드 결정을 위한 효과적인 율-왜곡 예측 방식을 제안한다. 비트율과 왜곡치가 최소가 되는 율-왜곡 최적화된 모드를 결정하기 위해서는 각 매크로 블록 모드를 부호화하고 복호화 하여 비트율과 왜곡치를 계산해야 한다. 이 과정에서 요구되는 계산량을 줄이고자 DCT 영역에서 비트율과 왜곡치를 효과적으로 예측하는 방식을 제안한다. 모의실험 결과는 제안 방식을 이용하여 모드 결정을 하였을 때 율-왜곡 성능은 거의 유지되면서 H.264의 율-왜곡 최적화된 모드 결정 계산량의 약 81%를 감소시키고 전체 부호화 계산량의 약 26%를 감소시킴을 보여준다.
In this paper, a new rate-distortion estimation method is proposed for fast rate-distortion optimized(RDO) mode decision in H.264 encoder. A bit-rate and distortion should be calculated by encoding and reconstruction of each macroblock mode in order to select the optimal RDO mode. To reduce the computations for getting them, a bit-rate and distortion is efficiently estimated in DCT domain. Simulation results show that the proposed method achieves computational saving about 81% of RDO mode decision and saves about 26% of total encoding time without noticeable degradation in coding performance.
