글 수 181

최신 자연어처리 모델 소개

조회 수 780 추천 수 0 2022.07.11 19:37:25


1.jpg

 

2.jpg

 

https://github.com/deepseasw/nlp_model_list

 

 

 

강의자료로 만들었는데 혹시 도움이 될지도 몰라 공개합니다. BERT와 GPT-2부터 최근까지 사전훈련 모델들을 정리했습니다. Github에 있는 pdf 파일을 열어보시면 됩니다. 앞으로 꾸준히 업데이트를 할 예정입니다.

 

 

  • 2018/11
    BERT (구글)
     

  • 2019/02
    GPT-2 (OpenAI)
     

  • 2019/07
    RoBERTa (메타)
     

  • 2019/10
    BART (메타)
    KoBERT (SKT)
     

  • 2019/12
    ALBERT (구글)
     

  • 2020/01
    Meena (구글)
     

  • 2020/03
    ELECTRA (구글)
     

  • 2020/04
    KoELECTRA (박장원)
    KoGPT-2 (SKT)
     

  • 2020/05
    GPT-3 (OpenAI)
    BlenderBot (메타)
     

  • 2020/07
    KcBERT (이준범)
     

  • 2020/12
    KoBART (SKT)
     

  • 2021/01
    DALL·E (OpenAI)
    CLIP (OpenAI)
     

  • 2021/04
    KoELECTRA (이준범)
     

  • 2021/05
    LaMDA (구글)
    하이퍼클로바 (네이버)
     

  • 2021/07
    BlenderBot 2.0 (메타)
     

  • 2021/09
    TUNiB-Electra (튜닙)
     

  • 2021/10
    KLUE-BERT (KLUE)
    KLUE-RoBERTa (KLUE)
     

  • 2021/11
    KoGPT (카카오)
     

  • 2021/12
    minDALL-E (카카오)
    엑사원 (LG)
    Gopher (딥마인드)
    RETRO (딥마인드)
     

  • 2022/01
    InstructGPT (OpenAI)
     

  • 2022/02
    AlphaCode (딥마인드)
     

  • 2022/04
    DALL·E 2 (OpenAI)
    Chinchilla (딥마인드)
    Flamingo (딥마인드)
    PaLM (구글)
     

  • 2022/05
    Imagen (구글)
    Gato (딥마인드)
    Parti (구글)
    에이닷 (SKT)
    CogVideo (칭화대)
     

List of Articles
제목 글쓴이 날짜 조회 수
네이버의 초거대모델인 하이퍼클로바 가격 공개 깊은바다 2022-08-24 476
유저 피드백을 받아 지속적으로 학습을 하는 챗봇 - BlenderBot 3 file 깊은바다 2022-08-06 703
최신 자연어처리 모델 소개 file 깊은바다 2022-07-11 780
러시아의 구글 얀덱스, 100B 초거대모델 무료 공개 깊은바다 2022-06-26 599
구글의 초거대모델 PaLM의 추론과 상식 능력 file 깊은바다 2022-05-20 668
글자, 사진, 영상을 동시에 처리하는 딥마인드의 딥러닝 모델 - Flamingo file 깊은바다 2022-05-10 747
메타, GPT-3와 동급인 175B의 초거대모델 무료 공개 깊은바다 2022-05-04 801
GPT-3보다 3배 더 큰 구글의 초거대모델, PaLM file 깊은바다 2022-04-07 1143
초거대모델의 파인튜닝 방법 - P-tuning과 LoRA file 깊은바다 2022-04-05 1821
교육용 챗봇의 미래!? 구글 람다 (LaMDA) 깊은바다 2022-03-11 1134
하이퍼클로바 활용예 및 사용가이드 file 깊은바다 2022-03-05 1279
네이버의 초거대모델인 하이퍼클로바 사용 후기 깊은바다 2022-02-14 1381
구글의 대화기반 초거대모델 LaMDA, 논문 공개 file 깊은바다 2022-02-08 1006
프로그램을 작성하는 딥마인드의 알파코드 file 깊은바다 2022-02-04 877
GPT-3를 강화학습으로 업그레이드한 InstructGPT file 깊은바다 2022-01-30 1342