- 맵리듀스를 이용한 스트리밍 세타 조인
- ㆍ 저자명
- 손정민,이정훈,김영훈,심규석,Son. Jeongmin,Lee. Jeonghun,Kim. Younghoon,Shim. Kyuseok
- ㆍ 간행물명
- 정보과학회논문지. Journal of KIISE. 컴퓨팅의 실제 및 레터
- ㆍ 권/호정보
- 2014년|20권 5호|pp.281-285 (5 pages)
- ㆍ 발행정보
- 한국정보과학회
- ㆍ 파일정보
- 정기간행물| PDF텍스트
- ㆍ 주제분야
- 기타
빅 데이터가 많아지면서, 맵리듀스를 이용하여 조인질의를 수행하는 다양한 연구가 이루어지고 있다. 하지만 입력 데이터의 크기가 클 때 중간 생성 데이터의 크기가 커지면서 디스크의 입출력과 네트워크 트래픽의 증가로 수행시간이 오래 걸리는 문제가 있다. 본 논문에서는 맵리듀스 프레임워크를 이용한 세타 조인에 대해 중간 생성 데이터의 크기를 최대 75%를 줄일 수 있는 향상된 세타 조인 방식을 제안한다. 또한 디스크 입출력에 대한 비용모델을 제안하고 이를 세타 조인 알고리즘에 적용하여 수행시간이 가장 적게 걸리는 데이터 분할 방법을 선택하도록 한다.
With growing popularity of big data, there exist many works for processing join queries using Map-Reduce. However, when the size of input data becomes large, processing time of a join query tends to grow significantly since the disk I/Os and network traffics become large due to the increase of the size of intermediate data. In this paper, to process theta-join queries using a MapReduce framework, we propose an improved theta-join algorithm which reduces up to 75% with respect to the size of intermediate result. We also propose a cost model for disk I/Os and apply the cost model to our theta-join algorithm to select the partitioning for the minimum execution time.