H.264/AVC는 공간적 중복성을 제거하기 위하여 9개의 화면 내 예측모드를 사용하도록 설계되었다. 또한, 모드 정보의 전송을 위하여 이웃한 블록의 모드간의 높은 상관도를 사용한다. 모드를 표현할 때, 더 높은 확률을 가진 모드에 더 적은 비트가 할당되며, 이웃한 두 개 블록의 예측모드 간에 최소값을 취하여 예측함으로써 압축된다. 본 논문에서는, 몇 개의 테스트 비디오 시퀀스를 사용하여 왼쪽과 위쪽의 이웃한 두 블록의 모드에 따라서 발생하는 현재 블록의 예측모드에 대한 통계적 확률을 구하였다. 다음으로 왼쪽과 위쪽의 이웃한 두 블록의 예측모드의 모든 조합에 대하여 현재 블록에서 결정될 확률이 가장 높은 5개 모드를 후보 예측모드로 하여 테이블로 구성한다. 이 확률 테이블을 사용하여, 선택된 5개의 후보 모드들만 율-왜곡 최적화를 수행함으로써 부호화 과정을 고속화하고, 각각의 경우에서 가장 높은 발생 확률을 갖는 모드를 most probable mode로 사용하여 모드 정보를 줄임으로써 부호화 성능을 높이는 방법을 제안한다. 제안한 알고리즘의 부호화 성능은 5개 후보 모드의 발생확률의 합이 90%, 85%, 80%이상인 경우에 대하여 JM14.2 대비 각각 1.17%, 1.50%, 1.19% 향상되었으며 부호화 속도는 18.46%, 27.97%, 36.03% 향상되었다.
The H.264/AVC has been designed to use 9 directional intra prediction modes for removing spatial redundancy. It also employs high correlation between neighbouring block modes in sending mode information. For indication of the mode, smaller bits are assigned for higher probable modes and are compressed by predicting the mode with minimum value between two prediction modes of neighboring two blocks. In this paper, we calculated the statistical probability of prediction modes of the current block to exploit the correlation among the modes of neighboring two blocks with several test video sequences. Then, we made the probable prediction table that lists 5 most probable candidate modes for all possible combinatorial modes of upper and left blocks. By using this probability table, one of 5 higher probable candidate modes is selected based on RD-optimization to reduce computational complexity and determines the most probable mode for each cases for improving compression performance. The compression performance of the proposed algorithm is around 1.1%~1.50%, compared with JM14.2 and we achieved 18.46%~36.03% improvement in decoding speed.
