레플리
글 수 295

SKT가 공개한 한글 GPT2 - KoGPT2

조회 수 5391 추천 수 0 2020.02.02 16:39:10


 

https://github.com/SKT-AI/KoGPT2

 

 

 

SKT에서 한글 GPT2인 KoGPT2를 공개했습니다. GPT2는 117M, 345M, 762M, 1542M의 4종류로 되어있습니다. KoGPT2는 가장 작은 사이즈인 117M(12 layers)로 구성되어 있습니다. 또한 GPT2보다 절반 정도의 크기인 20GB의 텍스트로 학습을 하였습니다. 아래 사이트에서 테스트도 가능하니 참고하시기 바랍니다.

 

GPT2 한글 버전이 공유된 건 아마 처음인 것 같습니다. 이전에 나온 KoBERT도 그렇고, SKT가 국내 딥러닝 활성화를 위해 많은 기여를 하고 있습니다. 앞으로 더 높은 파라미터의 모델도 나오기를 기대해봅니다.

 

 

 

< KoGPT-2 Explorer >
-> http://52.231.69.211:8000/

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
네이버의 초거대모델인 HyperCLOVA 논문 file 깊은바다 2021-09-13 603
챗봇의 슬롯 채우기(Slot Filling)와 DST(Dialogue State Tracking) file 깊은바다 2021-08-19 1842
죽은 약혼자를 챗봇으로 살려낸 남자 - Project December 깊은바다 2021-07-27 641
인터넷 검색을 하고 장기기억을 저장하는 페이스북의 챗봇 - Blenderbot 2 file 깊은바다 2021-07-19 811
GPT-3 데모 사이트 - gpt3demo.com 깊은바다 2021-07-13 3800
6B 파라미터의 GPT-J_6B 오픈소스 모델 깊은바다 2021-07-01 5857
GPT-3를 활용하여 주석을 코드로 바꿔주는 GitHub Copilot 깊은바다 2021-06-30 419
구글의 딥러닝 대화 모델 - LaMDA 깊은바다 2021-06-13 639
일상대화 딥러닝 모델들을 쉽게 실행할 수 있는 Openchat 깊은바다 2021-06-01 628
GPT-3를 사용하여 코딩을 하는 MS의 파워FX 깊은바다 2021-06-01 301
텍스트 스타일을 바꾸는 딥러닝 기술 깊은바다 2021-06-01 495
KoGPT2 v2.0 공개 깊은바다 2021-05-03 1643
이루다 같은 챗봇은 어떤 원리로 작동하는 걸까? 깊은바다 2021-04-03 1828
이성에게 말을 거는 작업멘트를 GPT-3로 생성 file 깊은바다 2021-03-24 639
GPT-3로 NPC와 대화를 할 수 있는 게임 시뮬레이터 깊은바다 2021-02-22 1515