레플리
글 수 283

여러 한국어 GPT 모델들

조회 수 3335 추천 수 0 2021.11.21 18:01:22
봄눈 *.79.201.12


kogpt2.png

https://github.com/SKT-AI/KoGPT2

https://huggingface.co/skt/kogpt2-base-v2

 

지난 5월에는 SKT의 KoGPT2 v2.0 모델이 공개됐습니다. 학습에 사용된 데이터셋이 기존 20GB에서 40GB으로 두 배 증가했고, 혼잡도(Perplexity)도 45% 감소했습니다.

 

 

gpt2trinity.png

 

https://huggingface.co/skt/ko-gpt-trinity-1.2B-v0.5

 

마찬가지로 5월에 GPT-3의 구조를 모방한 Ko-GPT-Trinity라는 모델이 공개됐습니다. 파라미터의 수가 1.2B로 125M이었던 KoGPT2에 비해 크게 늘어났습니다.

 

 

kogpt.png

https://github.com/kakaobrain/kogpt

https://huggingface.co/kakaobrain/kogpt

https://huggingface.co/spaces/akhaliq/kogpt

 

그리고 며칠 전 카카오에서도 GPT 모델을 공개했습니다. 파라미터의 수가 6B로 가장 큽니다. 카카오는 앞으로 GPT 모델의 크기와 성능을 100배 규모로 키울 예정이라고 밝혔습니다.

 

이 게시물을
첨부
엮인글 :
목록

깊은바다

2021.11.22 18:16:50
*.106.133.166

좋은 정보 감사합니다!

List of Articles
제목 글쓴이 날짜 조회 수sort
ChatGPT와 통합된 Bing 사용후기 영상 깊은바다 2023-02-10 166
ChatGPT의 3가지 핵심 특징 깊은바다 2023-02-16 166
GPT-4가 내 여자친구보다 나를 더 잘 알까? file 깊은바다 2023-12-12 167
생성 에이전트의 자율성이 AGI의 핵심 요소 file 깊은바다 2023-06-25 174
OpenAI가 ChatGPT를 개발할 수 있었던 이유 깊은바다 2023-02-20 176
죽은 아들의 AI 아바타를 만든 중국의 부모 file 깊은바다 2023-12-21 181
구글 듀플렉스에 대한 소개 깊은바다 2018-07-30 183
FSM과 생성 에이전트의 차이점 깊은바다 2023-11-22 187
ChatGPT 플러그인으로 만든 TODO 예제 file 깊은바다 2023-04-18 198
ChatGPT plugin와 Autonomous Agent, 그리고 새로운 패러다임의 시작 깊은바다 2023-06-27 204
게임 속 음성 기술 깊은바다 2018-06-13 206
네이버의 생성AI는 챗GPT가 안 부럽다 - 심층 인터뷰 기사 깊은바다 2023-02-03 207
Scale entanglement - LLM 연대기 깊은바다 2023-05-21 208
OpenAI의 샘 알트만, AGI를 향한 계획 깊은바다 2023-02-25 210
장문의 대답을 평가하는 자연어처리 벤치마크 - TuringAdvice 깊은바다 2020-04-17 215
목록
쓰기