레플리
글 수 281

꼼꼼하고 이해하기 쉬운 ELECTRA 논문 리뷰

조회 수 512 추천 수 0 2020.05.15 01:24:15


 

https://blog.pingpong.us/electra-review

 

 

 

요즘 페이스북의 얀 르쿤이 항상 강조하는게 자기지도학습(self-supervised learning)입니다. 지도학습처럼 라벨이 필요한 것은 마찬가지입니다. 하지만 사람이 아니라 기계가 스스로 만든다는 차이가 있습니다. 이렇게 라벨이 없는 대량의 데이터로 사전훈련을 하고, 라벨을 단 소수의 데이터로 다시 전이학습을 합니다. 그만큼 사람의 노력이 줄어든다는 장점이 있습니다.

 

이미지와 자연어처리에서 자기지도 방법이 약간 비슷하게 흘러가는 것 같습니다. 처음에는 이미지를 격자로 조각내고 빈 칸의 영역을 맞추었습니다. BERT의 마스킹과 유사합니다. 요즘에는 SimCLR 같은 contrastive learning을 이미지 자기지도학습에 사용합니다. 원본 사진과 변형된 사진을 비교하는 방식입니다. ELECTRA 역시 이와 유사합니다. 문장에서 특정 단어들을 마스킹하여 새로 생성한 후에, 원본 단어인지 바뀐 단어인지 판단합니다.

 

새로운 기법들이 빠르게 나오고 있어 따라잡기가 벅차네요^^; 그래도 변화의 시대 한복판에 있다는 사실이 즐겁습니다.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
Poe에 추가된 업스테이지의 LLM, Solar-70b file 깊은바다 2023-09-18 414
RAG 아키텍처를 위한 임베딩 모델의 선택에 대해 깊은바다 2023-09-14 496
LLM의 미래는 자율행동과 멀티 에이전트 깊은바다 2023-08-30 292
LLM이 서로 협력하여 프로그램을 개발 - ChatDev file 깊은바다 2023-08-16 724
GPT-4에 CoT 프롬프를 적용하여 2023 수능 국어 1등급 달성 file 깊은바다 2023-08-08 593
LLM의 창발적인 현상인 CoT(Chain of Thouht) 소개 file 깊은바다 2023-07-27 673
RAG 아키텍처의 이해 깊은바다 2023-07-23 1292
GPT-4 세부구조에 대한 정보 유출 깊은바다 2023-07-20 452
Llama 2의 RLHF 구현 방법 깊은바다 2023-07-19 694
한국어 LLM 민주화의 시작 KoAlpaca file 깊은바다 2023-07-17 1017
레포트를 써주는 LLM - GPT Researcher file 깊은바다 2023-07-13 353
LLM 챗봇의 특징 2가지 - RAG와 Function 깊은바다 2023-07-06 1150
RAG(Retrieval-Augmented Generation) - LLM의 환각을 줄이는 방법 file 깊은바다 2023-07-04 9267
Generative AI — 시장 구조, 기회, moat에 대한 몇 가지 생각 깊은바다 2023-06-27 298
ChatGPT plugin와 Autonomous Agent, 그리고 새로운 패러다임의 시작 깊은바다 2023-06-27 203