레플리
글 수 295

여러 한국어 GPT 모델들

조회 수 3515 추천 수 0 2021.11.21 18:01:22


kogpt2.png

https://github.com/SKT-AI/KoGPT2

https://huggingface.co/skt/kogpt2-base-v2

 

지난 5월에는 SKT의 KoGPT2 v2.0 모델이 공개됐습니다. 학습에 사용된 데이터셋이 기존 20GB에서 40GB으로 두 배 증가했고, 혼잡도(Perplexity)도 45% 감소했습니다.

 

 

gpt2trinity.png

 

https://huggingface.co/skt/ko-gpt-trinity-1.2B-v0.5

 

마찬가지로 5월에 GPT-3의 구조를 모방한 Ko-GPT-Trinity라는 모델이 공개됐습니다. 파라미터의 수가 1.2B로 125M이었던 KoGPT2에 비해 크게 늘어났습니다.

 

 

kogpt.png

https://github.com/kakaobrain/kogpt

https://huggingface.co/kakaobrain/kogpt

https://huggingface.co/spaces/akhaliq/kogpt

 

그리고 며칠 전 카카오에서도 GPT 모델을 공개했습니다. 파라미터의 수가 6B로 가장 큽니다. 카카오는 앞으로 GPT 모델의 크기와 성능을 100배 규모로 키울 예정이라고 밝혔습니다.

 


깊은바다

2021.11.22 18:16:50
*.106.133.166

좋은 정보 감사합니다!

List of Articles
제목 글쓴이 날짜 조회 수
MS 직원의 GPT 기반 콜센터 챗봇 사용기 깊은바다 2023-02-18 195
구글의 초거대AI LaMDA, 과연 의식을 가지고 있을까 깊은바다 2023-02-17 145
ChatGPT와 대화 인공지능의 미래 깊은바다 2023-02-17 174
하이퍼클로바 기반의 심리상담 챗봇 개발 경험 깊은바다 2023-02-17 281
ChatGPT 프롬프트 엔지니어링 - 다양한 말투로 대답하기 file 깊은바다 2023-02-17 1093
ChatGPT, 타임지 표지 장식 깊은바다 2023-02-17 331
ChatGPT의 3가지 핵심 특징 깊은바다 2023-02-16 232
ChatGPT가 Stack Overflow를 대체할까 깊은바다 2023-02-16 175
테드 창, ChatGPT는 엄청나게 효율이 높은 손실 압축임 깊은바다 2023-02-13 318
MS의 목적은 ChatGPT로 구글이 장악한 검색시장 자체를 무너뜨리는 것 깊은바다 2023-02-11 190
ChatGPT와 통합된 Bing 사용후기 영상 깊은바다 2023-02-10 216
MS, Bing과 Edge에 ChatGPT 통합 file 깊은바다 2023-02-08 204
구글, ChatGPT의 라이벌인 Bard 공개 file 깊은바다 2023-02-07 212
네이버의 생성AI는 챗GPT가 안 부럽다 - 심층 인터뷰 기사 깊은바다 2023-02-03 265
ChatGPT 2달만에 누적 사용자 1억명 돌파 깊은바다 2023-02-03 162