본 논문에서는 최신 압축 기술인 H.264/AVC의 화면내 부호화 효율을 향상시키기 위해 1차원 및 2차원 정수 변환을 이용한 적응적 화면내 부호화 기법을 제안한다. 제안 기법에서는 부호화될 블록에 대해 예측모드에 따라서 1차원 정수 변환과 2차원 정수 변환을 수행한 후 가장 효과적인 예측모드와 정수 변환 방법이 선택된다. 1차원 정수 변환을 이용한 부호화를 수행할 경우에는 먼저 예측모드에 따라 $4{ imes}4$ 블록을 $1{ imes}4$ 또는 $4{ imes}1$의 서브블록으로 분할하고, 각각의 서브블록에 대해 예측을 수행한다. 이때 서브블록들에 대한 예측 신호는 이전의 재생된 서브블록을 이용하여, 예측 방향으로 가장 가까운 신호를 예측에 사용함으로써, 상관성의 활용을 극대화한다. 각각의 서브블록들은 생성된 예측 신호와의 뺄셈 과정을 통해 잔여신호를 생성하고, 1차원 정수 변환 및 양자화 과정을 통해 양자화된 신호를 생성한다. 양자화된 서브블록들은 다시 분할되기 이전의 $4{ imes}4$ 블록 단위로 합쳐지고, 예측모드에 따라 DC에 우선 순위를 둔 스캐닝 패턴을 이용하여 1차원으로 정렬된다. 1차원 정수 변환을 사용하여 생성된 해당 블록의 비트스트림이 기존 2차원 정수 변환을 사용하여 생성한 비트스트림과 부호화 효율 측면에서 비교되어, 최종적으로 부호화될 예측모드와 변환 계수가 선택되어 전송된다. 제안 기술은 실험 결과를 통해 다양한 영상과 비트율에서 H.264/AVC보다 평균적으로 BD-PSNR을 0.34dB 향상 또는 BD-bitrate를 4.03% 감소시킴으로써, 기존의 H.264/AVC 부호화 효율을 크게 개선할 수 있음을 보여준다.
In this paper, we propose a new adaptive intra coding technique using 1-D and 2-D integer transforms for improving coding efficiency of H.264/AVC. Proposed technique selects the most effective transform and prediction mode for each block after processing 1-D and 2-D transforms of all prediction modes. In case of using 1-D transform, $4{ imes}4$ block is divided into four $1{ imes}4$ or $4{ imes}1$ subblocks and then each subblock is predicted and subtracted by using the decoded subblock located at the nearest position in the direction of prediction. After prediction error subblock is processed by 1-D transform and quantization, four subblocks are merged back into original $4{ imes}4$ block and then, reordered as 1-D signal by a DC biased zigzag scanning pattern according to the prediction mode. Finally, comparing the coding efficiency between bitstreams based on 1-D transform and conventional 2-D transform, prediction mode and quantized coefficients for each block are decided and corresponding quantized coefficients are transmitted. Experimental results show that the proposed adaptive technique increases 0.34dB in BD-PSNR and decreases 4.03% in BD-Bitrate on the average compared with H.264/AVC.
