본 논문은 ATSC(Advanced Television System Committee) 8VSB(Vestigial Side Band) 방식의 디지털 지상파 TV 시스템에서 수신 채널 등화기의 수렴속도와 MSE(Mean Square Error) 성능을 개선하기 위한 DCT HLMS DFE(Discrete Cosine Transform Hierarchical Least Mean Square Decision Feedback Equalizer) 알고리즘을 제안한다. 제안한 알고리즘은 기존의 LMS(Least Mean Square) DFE 를 계층적 구조의 서브필터로 변형함으로써 수신 데이터 상관 행렬의 고유값 범위를 줄인다. 또한, DCT와 전력추정 알고리즘을 사용하여 다중경로 수신환경에서 수신 신호의 왜곡 및 지연에 따른 입력데이터에 대한 고유값 확산을 작게 한다. 전산 모의실험 결과, 제안한 DCT HLMS DFE는 ATTC(Advanced Television Technology Center)가 제시한 디지털 지상파 TV 방송 채널 중 A, B 그리고 F 채널에서 채널 등화 이후의 심볼 에러율이 0.2일 때 기존의 LMS BFE 보다 SNR이 각각 약 3.8dB, 5dB 그리고 2dB 개선되었다.
In this Paper, a new DCT HLMS DFE(Discrete Cosine Transform Hierarchical Least Mean Square Decision Feedback Equalizer) algorithm is proposed to improve the convergence speed and MSE(Mean Square Error) performance of a receive channel equalizer in ATSC(Advanced Television System Committee) 8VSB(Vestigial Side Band) digital terrestrial TV system. The proposed algorithm reduces the eigenvalue range of input data autocorrelation by transforming LMS (Least Mean Square) DFE into the subfilter of hierarchical structure. Moreover, the use of DCT and power estimation algorithm makes it possible to reduce the eigenvalue deviation of input data which results from distortion and delay of the receive signal in the miulti-path environment. Simulation results show that proposed DCT HLMS DFE has SNR improvement of approximately 3.8dB, 5dB and 2dB as compared to LMS DFE when the equalized symbol error rate is 0.2 in ATTC defined digital terrestrial TV broadcasting channels A, B and F, respectively.
