글 수 119

꼼꼼하고 이해하기 쉬운 ELECTRA 논문 리뷰

조회 수 110 추천 수 0 2020.05.15 01:24:15


 

https://blog.pingpong.us/electra-review

 

 

 

요즘 페이스북의 얀 르쿤이 항상 강조하는게 자기지도학습(self-supervised learning)입니다. 지도학습처럼 라벨이 필요한 것은 마찬가지입니다. 하지만 사람이 아니라 기계가 스스로 만든다는 차이가 있습니다. 이렇게 라벨이 없는 대량의 데이터로 사전훈련을 하고, 라벨을 단 소수의 데이터로 다시 전이학습을 합니다. 그만큼 사람의 노력이 줄어든다는 장점이 있습니다.

 

이미지와 자연어처리에서 자기지도 방법이 약간 비슷하게 흘러가는 것 같습니다. 처음에는 이미지를 격자로 조각내고 빈 칸의 영역을 맞추었습니다. BERT의 마스킹과 유사합니다. 요즘에는 SimCLR 같은 contrastive learning을 이미지 자기지도학습에 사용합니다. 원본 사진과 변형된 사진을 비교하는 방식입니다. ELECTRA 역시 이와 유사합니다. 문장에서 특정 단어들을 마스킹하여 새로 생성한 후에, 원본 단어인지 바뀐 단어인지 판단합니다.

 

새로운 기법들이 빠르게 나오고 있어 따라잡기가 벅차네요^^; 그래도 변화의 시대 한복판에 있다는 사실이 즐겁습니다.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
GPT2를 테스트해볼 수 있는 사이트 - Talk to Transformer file 깊은바다 2020-06-05 28
퓨샷(few-shot) 러닝에 최적화된 GPT3 모델 file 깊은바다 2020-05-30 103
KoGPT2로 한국어 노래 가사 생성하기 깊은바다 2020-05-21 134
인라이플의 한글 BERT 대형모델 깊은바다 2020-05-18 176
꼼꼼하고 이해하기 쉬운 ELECTRA 논문 리뷰 깊은바다 2020-05-15 110
Meme 자동 생성기 깊은바다 2020-05-11 125
딥러닝 상식추론 모델- COMET file 깊은바다 2020-05-04 121
Meena를 능가하는 페이스북의 일상대화 딥러닝 모델 - Blender file 깊은바다 2020-05-01 157
MS의 딥러닝 대화 모델 - DialoGPT file 깊은바다 2020-04-24 112
Dialog-BERT: 100억건의 메신저대화로 일상대화 인공지능 서비스하기 file 깊은바다 2020-04-19 171
장문의 대답을 평가하는 자연어처리 벤치마크 - TuringAdvice 깊은바다 2020-04-17 77
아마존, End-to-End 딥러닝 기술을 고객서비스에 챗봇에 적용 깊은바다 2020-03-17 191
딥러닝 질의응답 시스템인 cdQA-suite 깊은바다 2020-03-08 225
LG 사이언스파크에서 만든 한글 MRC(기계독해) 데모 file [2] 깊은바다 2020-03-07 326
페르소나에 따라 대화를 하는 딥러닝 챗봇 by Hugging Face 깊은바다 2020-03-06 207