논문 리뷰 (1) 썸네일형 리스트형 [논문 리뷰] Improving Language Understanding by Generative Pre-Training Abstract 굉장히 많은 발전있던 NLP task : textual entailment, question answering, semantic similarity assessment, document classification 더 높은 성능을 위하여 여러 접근 방식 존재 1. Introduction 기존의 NLP 방식 = Supervised 방식, labeled data를 바탕으로 학습함 Natural Language Processing 이 라벨링이 된 데이터들을 바탕으로 이루어져 언어모델(LM)을 학습하였으나, 대용량의 라벨링이 된 데이터를 생성하기는 어렵기에 기존 접근 방식에 한계가 있음 -> 새로운 방식으로 Semi-Supervised 방식을 사용 2. Related Work - Semi-supe.. 이전 1 다음
