레플리
글 수 281

최신 자연어처리 모델 소개

조회 수 1172 추천 수 0 2022.07.11 19:37:25


1.jpg

 

2.jpg

 

https://github.com/deepseasw/nlp_model_list

 

 

 

강의자료로 만들었는데 혹시 도움이 될지도 몰라 공개합니다. BERT와 GPT-2부터 최근까지 사전훈련 모델들을 정리했습니다. Github에 있는 pdf 파일을 열어보시면 됩니다. 앞으로 꾸준히 업데이트를 할 예정입니다.

 

 

  • 2018/11
    BERT (구글)
     

  • 2019/02
    GPT-2 (OpenAI)
     

  • 2019/07
    RoBERTa (메타)
     

  • 2019/10
    BART (메타)
    KoBERT (SKT)
     

  • 2019/12
    ALBERT (구글)
     

  • 2020/01
    Meena (구글)
     

  • 2020/03
    ELECTRA (구글)
     

  • 2020/04
    KoELECTRA (박장원)
    KoGPT-2 (SKT)
     

  • 2020/05
    GPT-3 (OpenAI)
    BlenderBot (메타)
     

  • 2020/07
    KcBERT (이준범)
     

  • 2020/12
    KoBART (SKT)
     

  • 2021/01
    DALL·E (OpenAI)
    CLIP (OpenAI)
     

  • 2021/04
    KoELECTRA (이준범)
     

  • 2021/05
    LaMDA (구글)
    하이퍼클로바 (네이버)
     

  • 2021/07
    BlenderBot 2.0 (메타)
     

  • 2021/09
    TUNiB-Electra (튜닙)
     

  • 2021/10
    KLUE-BERT (KLUE)
    KLUE-RoBERTa (KLUE)
     

  • 2021/11
    KoGPT (카카오)
     

  • 2021/12
    minDALL-E (카카오)
    엑사원 (LG)
    Gopher (딥마인드)
    RETRO (딥마인드)
     

  • 2022/01
    InstructGPT (OpenAI)
     

  • 2022/02
    AlphaCode (딥마인드)
     

  • 2022/04
    DALL·E 2 (OpenAI)
    Chinchilla (딥마인드)
    Flamingo (딥마인드)
    PaLM (구글)
     

  • 2022/05
    Imagen (구글)
    Gato (딥마인드)
    Parti (구글)
    에이닷 (SKT)
    CogVideo (칭화대)
     

List of Articles
제목 글쓴이 날짜sort 조회 수
Pi를 만든 Inflection AI, MS로 대거 이직한 이유 깊은바다 2024-03-25 46
LLaMA나 Mistral이 계속 무료로 유지될 수 있을까 깊은바다 2024-03-05 145
GPT-3.5와 클로바X 가격 비교 file 깊은바다 2024-02-25 187
OpenAI, 성능은 높아지고 가격은 싸진 새로운 모델 공개 file 깊은바다 2024-01-26 292
AI 휴대용 기기 R1을 만든 Rabbit의 대표 Jesse Lyu 깊은바다 2024-01-12 234
화면을 보고 스마트폰 앱 사용방법을 배우는 모델 - AppAgent file 깊은바다 2024-01-08 269
LLM의 새로운 기법 - Merge와 DPO file 깊은바다 2024-01-02 958
업스테이지 SOLAR 10.7B에서 사용한 DUS 모델 확장 방법 file 깊은바다 2023-12-27 375
죽은 아들의 AI 아바타를 만든 중국의 부모 file 깊은바다 2023-12-21 165
Private sLLM - 어떻게 만들고 어떻게 배포할까? file 깊은바다 2023-12-18 298
GPT-4가 내 여자친구보다 나를 더 잘 알까? file 깊은바다 2023-12-12 147
FSM과 생성 에이전트의 차이점 깊은바다 2023-11-22 164
RAG를 사용한 페르소나 챗봇 - ChatHaruhi file 깊은바다 2023-10-17 633
LLM Multi Agent: Customer Service를 기깔나게 자동화하는 방법 file [1] 깊은바다 2023-10-09 568
사진을 인식할 수 있는 ChatGPT 멀티모달 버전 공개 file 깊은바다 2023-09-26 272