AI-In-The-Loop for NER tagging: 대용량 언어모델과 Few-Shot 학습을 이용한 개체명 인식 데이터셋 구축 프로세스

Abstract

이 연구는 대규모 언어 모델을 활용한 새로운 개체명 인식 (Named Entity Recognition) 라벨링 프로세스를 제안하며, 이를 통한 불완전한 데이터셋 보정과 라벨링 향상의 가능성을 증명한다. 훈련 데이터셋에서 정답이 오직 10%만이 존재하는 상황에도 불구하고, 본 프로세스를 통해 데이터셋을 능동적으로 태깅하고 보정하는 것이 가능함을 밝힌다. 더불어, 본 연구는 능동학습 및 모델 커뮤니티 기반 태깅의 통합 가능성에 대한 중요한 통찰을 제시한다. 이를 통해, 대규모 언어 모델의 개체명 인식에 대한 관점을 제안하며, 비용 효율적인 방식으로 라벨되지 않은 데이터를 올바르게 태깅하고, 그에 따른 모델의 데이터 이해도를 향상시킬 수 있는 전략을 제시한다. 더욱이, 이 방법은 데이터 라벨링 비용의 최소화와 불충분한 데이터에서도 모델 성능을 일정 수준 유지하는데 중요한 역할을 수행함을 입증한다. 본 논문은 이러한 통찰과 증명을 바탕으로, 대규모 언어 모델의 효과적인 활용과 라벨링 작업의 향상을 위한 실질적인 방안을 제시하는데 초점을 맞추고 있다.|This study proposes a novel Named Entity Recognition labelling process using large-scale language models, and demonstrates its potential to compensate for incomplete datasets and improve labelling. We show that the process can be used to proactively label and calibrate datasets, despite the fact that only 10% of the responses in the training dataset are correct. Furthermore, this work provides important insights into the feasibility of integrating active learning and model community-based tagging. In doing so, we propose a perspective on entity name recognition in large-scale language models and suggest strategies for correctly tagging unlabelled data in a cost-effective manner, thereby improving the model's understanding of the data. Furthermore, we show that our method plays an important role in minimising the cost of data labelling and maintaining a certain level of model performance even with insufficient data. Based on these findings and proofs, the focus of this thesis is to provide practical suggestions for the effective use of large-scale language models and the improvement of labelling tasks.