레플리
글 수 284

SKT가 공개한 한글 GPT2 - KoGPT2

조회 수 5297 추천 수 0 2020.02.02 16:39:10


 

https://github.com/SKT-AI/KoGPT2

 

 

 

SKT에서 한글 GPT2인 KoGPT2를 공개했습니다. GPT2는 117M, 345M, 762M, 1542M의 4종류로 되어있습니다. KoGPT2는 가장 작은 사이즈인 117M(12 layers)로 구성되어 있습니다. 또한 GPT2보다 절반 정도의 크기인 20GB의 텍스트로 학습을 하였습니다. 아래 사이트에서 테스트도 가능하니 참고하시기 바랍니다.

 

GPT2 한글 버전이 공유된 건 아마 처음인 것 같습니다. 이전에 나온 KoBERT도 그렇고, SKT가 국내 딥러닝 활성화를 위해 많은 기여를 하고 있습니다. 앞으로 더 높은 파라미터의 모델도 나오기를 기대해봅니다.

 

 

 

< KoGPT-2 Explorer >
-> http://52.231.69.211:8000/

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
네이버의 초거대모델인 하이퍼클로바 가격 공개 깊은바다 2022-08-24 1861
KoGPT2로 한국어 노래 가사 생성하기 깊은바다 2020-05-21 1856
ChatGPT 한글 자동번역 크롬 확장프로그램 깊은바다 2023-01-17 1854
ChatGPT 플러그인 전략 및 생태계 변화 전망 file 깊은바다 2023-04-09 1825
GPT2를 Colab에서 테스트할 수 있는 코드 깊은바다 2019-05-21 1783
구글의 일상대화 딥러닝 모델 - Meena file 깊은바다 2020-01-30 1771
딥러닝 자연어처리 - RNN에서 BERT까지 [2] 깊은바다 2019-01-07 1756
GPT3 유료화 가격 공개 file 깊은바다 2020-09-04 1748
GLUE: 벤치마크를 통해 BERT 이해하기 깊은바다 2019-11-19 1737
100억건의 카카오톡 데이터로 
똑똑한 일상대화 인공지능 만들기 - 핑퐁 멀티턴 file 깊은바다 2019-08-20 1732
이루다 같은 챗봇은 어떤 원리로 작동하는 걸까? 깊은바다 2021-04-03 1694
심즈와 비슷한 가상세계를 ChatGPT로 구현 - 생성 에이전트(Generative Agents) file 깊은바다 2023-04-14 1681
딥러닝을 사용한 감성분석기 개발 깊은바다 2018-02-22 1658
목적지향 대화 학습 - Learning End-to-End Goal-Oriented Dialog file 깊은바다 2019-02-02 1597
문장의 유사도를 파악하는 구글의 universal-sentence-encoder file 깊은바다 2018-08-29 1596