글 수 181

BERT로 토익 문제를 푸는 프로젝트

조회 수 2116 추천 수 0 2019.04.30 16:57:51


K-001.png

 

https://github.com/graykode/toeicbert?fbclid=IwAR2hoCQE02CaR00m-RZCHwQM_kYd1LgxxMSrucYSTtA52ZUhtvq5i_G2tFk

 

 

 

BERT로 토익 문제를 푸는 프로젝트입니다. 따로 토익문제 데이터로 훈련하지 않고, 사전훈련된 모델을 그냥 사용했습니다. 그런데도 70%의 정확도를 보인다고 합니다.

 

BERT는 기본적으로 두 가지 방법으로 학습을 합니다. 하나는 문장의 특정 단어를 마스킹으로 가리고 그 단어를 예측합니다. 두 번째는 두 문장이 입력으로 들어가면 서로 연결되는 의미인지 T/F로 판단합니다.

 

토익 문제를 풀기 위해서는 마스킹 방식의 BertForMaskedLM 모델을 바로 적용할 수 있습니다. 4가지의 예제 단어를 라벨로 하여 각각 모델의 예측값(얼마나 정확한지를 나타내는 loss)를 얻습니다. 그리고 손실오차가 가장 작은 단어를 정답으로 판단합니다.

 

앞으로 딥러닝 자연어처리를 기반으로 한 재미있는 프로젝트들이 더 많아질 것 같습니다.

List of Articles
제목 글쓴이 날짜 조회 수
욕설을 찾는 BERT 모델 - Purifier 깊은바다 2019-08-28 2373
딥러닝을 활용한 뉴스 메타 태깅 깊은바다 2019-08-26 345
100억건의 카카오톡 데이터로 
똑똑한 일상대화 인공지능 만들기 - 핑퐁 멀티턴 file 깊은바다 2019-08-20 1606
새로운 자연어처리 벤치마크 - SuperGLUE 깊은바다 2019-08-15 566
딥러닝을 사용하여 심심이의 나쁜말 필터링 기능 구현 깊은바다 2019-08-14 812
위키에서 질문의 답을 찾는 딥러닝 모델, 페이스북의 DrQA file 깊은바다 2019-08-03 806
페이스북이 발표한 사전훈련 언어모델 RoBERTa file 깊은바다 2019-07-30 1342
케라스로 만든 한글 Seq2Seq 챗봇 소스코드 깊은바다 2019-07-13 2779
딥러닝 자연어처리 강의 - Natural Language Processing with PyTorch 깊은바다 2019-07-06 641
딥러닝을 사용하여 의도 및 엔티티를 파악하는 챗봇 소스코드 file 깊은바다 2019-06-25 2093
가짜뉴스를 생성 또는 판별하는 딥러닝 모델 - Grover 깊은바다 2019-06-01 910
GPT2를 Colab에서 테스트할 수 있는 코드 깊은바다 2019-05-21 1477
인간의 언어를 이해하는 기계, NLU 깊은바다 2019-05-17 815
Jay Alammar의 트랜스포머 한글 번역글 깊은바다 2019-05-09 935
BERT로 토익 문제를 푸는 프로젝트 file 깊은바다 2019-04-30 2116