글 수 245

한국어로 대화하는 생성 모델의 학습을 위한 여정 - Transformer와 GPT2

조회 수 3532 추천 수 0 2020.08.13 14:39:00
깊은바다 *.68.248.98


 

 

https://blog.pingpong.us/generation-model/

 

 

 

핑퐁팀에서 카톡 대화 데이터셋을 가지고 생성 모델을 만든 경험담입니다. Meena처럼 인코더/디코더의 Transformer와 디코더만 사용하는 GPT2 방식으로 테스트했습니다. 조만간 실제 서비스에도 적용한다니 기대가 됩니다.

 

이 게시물을
엮인글 :
목록
List of Articles
제목 글쓴이 날짜sort 조회 수
6B 파라미터의 GPT-J_6B 오픈소스 모델 깊은바다 2021-07-01 898
GPT-3를 활용하여 주석을 코드로 바꿔주는 GitHub Copilot 깊은바다 2021-06-30 316
구글의 딥러닝 대화 모델 - LaMDA 깊은바다 2021-06-13 556
일상대화 딥러닝 모델들을 쉽게 실행할 수 있는 Openchat 깊은바다 2021-06-01 502
GPT-3를 사용하여 코딩을 하는 MS의 파워FX 깊은바다 2021-06-01 226
텍스트 스타일을 바꾸는 딥러닝 기술 깊은바다 2021-06-01 341
KoGPT2 v2.0 공개 깊은바다 2021-05-03 1543
이루다 같은 챗봇은 어떤 원리로 작동하는 걸까? 깊은바다 2021-04-03 1485
이성에게 말을 거는 작업멘트를 GPT-3로 생성 file 깊은바다 2021-03-24 550
GPT-3로 NPC와 대화를 할 수 있는 게임 시뮬레이터 깊은바다 2021-02-22 1385
GPT-2를 사용한 텍스트 압축 기법 file 깊은바다 2021-02-19 440
딥러닝 자연어처리 라이브러리 - Pororo file 깊은바다 2021-02-03 1446
스캐터랩의 오픈도메인 챗봇 루다 육아일기 - 모델의 구조 및 동작방식 file 깊은바다 2020-12-30 1139
일상대화 챗봇 레플리카(Replika)의 구현 방식 file 깊은바다 2020-12-22 1426
좋은 응답을 골라내는 모델 만들기 - 핑퐁의 답변매칭 알고리즘 깊은바다 2020-12-10 522
목록
쓰기