레플리
글 수 281

최신 자연어처리 모델 소개

조회 수 1172 추천 수 0 2022.07.11 19:37:25


1.jpg

 

2.jpg

 

https://github.com/deepseasw/nlp_model_list

 

 

 

강의자료로 만들었는데 혹시 도움이 될지도 몰라 공개합니다. BERT와 GPT-2부터 최근까지 사전훈련 모델들을 정리했습니다. Github에 있는 pdf 파일을 열어보시면 됩니다. 앞으로 꾸준히 업데이트를 할 예정입니다.

 

 

  • 2018/11
    BERT (구글)
     

  • 2019/02
    GPT-2 (OpenAI)
     

  • 2019/07
    RoBERTa (메타)
     

  • 2019/10
    BART (메타)
    KoBERT (SKT)
     

  • 2019/12
    ALBERT (구글)
     

  • 2020/01
    Meena (구글)
     

  • 2020/03
    ELECTRA (구글)
     

  • 2020/04
    KoELECTRA (박장원)
    KoGPT-2 (SKT)
     

  • 2020/05
    GPT-3 (OpenAI)
    BlenderBot (메타)
     

  • 2020/07
    KcBERT (이준범)
     

  • 2020/12
    KoBART (SKT)
     

  • 2021/01
    DALL·E (OpenAI)
    CLIP (OpenAI)
     

  • 2021/04
    KoELECTRA (이준범)
     

  • 2021/05
    LaMDA (구글)
    하이퍼클로바 (네이버)
     

  • 2021/07
    BlenderBot 2.0 (메타)
     

  • 2021/09
    TUNiB-Electra (튜닙)
     

  • 2021/10
    KLUE-BERT (KLUE)
    KLUE-RoBERTa (KLUE)
     

  • 2021/11
    KoGPT (카카오)
     

  • 2021/12
    minDALL-E (카카오)
    엑사원 (LG)
    Gopher (딥마인드)
    RETRO (딥마인드)
     

  • 2022/01
    InstructGPT (OpenAI)
     

  • 2022/02
    AlphaCode (딥마인드)
     

  • 2022/04
    DALL·E 2 (OpenAI)
    Chinchilla (딥마인드)
    Flamingo (딥마인드)
    PaLM (구글)
     

  • 2022/05
    Imagen (구글)
    Gato (딥마인드)
    Parti (구글)
    에이닷 (SKT)
    CogVideo (칭화대)
     

List of Articles
제목 글쓴이 날짜 조회 수
ChatGPT 2달만에 누적 사용자 1억명 돌파 깊은바다 2023-02-03 88
ChatGPT 톺아보기 - 인공지능의 역사부터 신경망, 초거대AI, ChatGPT까지 file 깊은바다 2023-02-01 310
ChatGPT 한글 자동번역 크롬 확장프로그램 깊은바다 2023-01-17 1846
Koko 심리상담 서비스에서 GPT-3 대답 추천 기능을 도입 file 깊은바다 2023-01-11 296
ChatGPT보다 한글을 더 잘 대답하는 모델 - Claude file 깊은바다 2023-01-10 815
ChatGPT와 유사한 서비스 - Chatsonic file 깊은바다 2023-01-09 793
페이지링크와 ChatGPT 대화를 동시에 지원하는 검색엔진 - You.com 깊은바다 2022-12-27 235
ChatGPT에게 챗봇을 만들어보라고 해봤습니다 file 깊은바다 2022-12-26 412
ChatGPT는 새로운 검색엔진이 될까 file 깊은바다 2022-12-06 506
OpenAI의 대화전용 딥러닝 모델 - ChatGPT file 깊은바다 2022-12-02 964
네이버의 초거대모델인 하이퍼클로바 가격 공개 깊은바다 2022-08-24 1815
유저 피드백을 받아 지속적으로 학습을 하는 챗봇 - BlenderBot 3 file 깊은바다 2022-08-06 1135
최신 자연어처리 모델 소개 file 깊은바다 2022-07-11 1172
러시아의 구글 얀덱스, 100B 초거대모델 무료 공개 깊은바다 2022-06-26 804
구글의 초거대모델 PaLM의 추론과 상식 능력 file 깊은바다 2022-05-20 837