고등학교 영어 작문 교육의 강화를 위해 대학수학능력평가시험 대신 영어 작문 평가가 포함되는 국가영 어능력평가시험(NEAT)을 2009년부터 개발하여 모의 평가와 채점을 실시해왔으며 2013학년도부터 일부 대학교 입시에 활용되고 있다. 이러한 고위험 시험을 국가시험으로 도입하기 위해서는 일선 고등학교에서 영어과 교사들이 시험에 대비하여 학생들을 지도하고 시험을 출제하고 채점해야하며, 국가에서는 신뢰롭 게 채점할 수 있는 교사 선택 및 확보가 필요하다. 아직 일부 교사들만이 새로운 시험에 대한 교육과 채점 훈련을 이수한 상태이므로, 본 연구는 이러한 과정을 완료한 교사와 영어 작문 채점 경험이 부재할 뿐만 아니라 시험에 대한 지식이 부족한 교사의 채점 신뢰도 및 결과를 비교 연구하여 채점자 집단에 따라 채점 신뢰도 및 결과가 달라지는지를 분석하여 어떤 교사를 채점자로 선발해야 하며 어떤 훈련과 교육과정이 필요한지에 대해 알아보고자 한다. NEAT 3급 문항 1 유형인 주어진 그림 중 하나를 선택하여 친구의 제안을 거절하는 메시지를 2~3문장 20단어 내로 작성하는 시험을 실시하여 수집한 410명의 고등학교 학생들의 작문을 채점 인증을 받은 영 어 교사 3명과 채점 경험이 부재한 신임 교사 3명이 4개 영역에서 분석적 채점을 하여 그 결과를 분석하였 다. 채점 신뢰도는 4개 영역 모두에서 채점 경험이 있는 교사 집단이 더 높은 것으로 나타났다. 채점 결과 측면에서는 채점 경험이 있는 교사 집단이 통계적으로 유의하게 채점 영역 모두에서 더 낮은 점수를 주는 경향이 있었는데, 이는 채점자에 따라 피험자에게 주어지는 점수가 달라질 수 있음을 시사하는 것이므로 고위험 시험에서는 채점 결과를 신뢰할 수 있는 채점자 확보가 핵심 문제임을 보여주고 있다. 채점 영역 중에서 구성 영역의 채점 신뢰도가 가장 낮았으며 채점자 집단간 점수 차이도 가장 크게 나타나 채점 기준 의 타당도 문제도 검토할 필요가 있는 것으로 나타났다.
This paper explores rating performance of high school EFL teachers in national curriculum-specific writing assessment by comparing rater reliability and ratings of experienced and novice raters. The experienced raters completed the government-authorized writing test rater certification program and had two- or three-year rating experience, whereas the novice raters were new teachers who lacked rater training and rating experience. The two groups of teacher-raters rated 410 samples written by high school students in four assessing aspects: task completion, content, organization, and language use. Results reveal the discernible influence of rater background on ratings. The experienced teacher-raters’ rating experience and understanding of the target test task and the rating rubric acquired through the rater certification process resulted in better rater reliability and significantly lower ratings than the novice teacher-raters. Variations among assessment aspects were also noted: for example, lower reliability in content and organization and lower ratings of the experienced teacher-raters in organization and language use. The findings from the study imply that test-takers may receive different ratings depending on who rates their writing, and thus, securing credible experienced raters is essential in a high-stake writing test.
I. Introduction II. Raters of L2 Writing Tests III. Research Method IV. Results and Discussion V. Conclusion
