레플리
글 수 282

한국어로 대화하는 생성 모델의 학습을 위한 여정 - Transformer와 GPT2

조회 수 3565 추천 수 0 2020.08.13 14:39:00
깊은바다 *.68.248.98


 

 

https://blog.pingpong.us/generation-model/

 

 

 

핑퐁팀에서 카톡 대화 데이터셋을 가지고 생성 모델을 만든 경험담입니다. Meena처럼 인코더/디코더의 Transformer와 디코더만 사용하는 GPT2 방식으로 테스트했습니다. 조만간 실제 서비스에도 적용한다니 기대가 됩니다.

 

이 게시물을
엮인글 :
목록
List of Articles
제목 글쓴이 날짜sort 조회 수
딥러닝을 이용한 자연어 처리 입문 - 위키독스 깊은바다 2018-09-21 1107
질의응답을 위한 딥러닝 모델인 메모리 네트워크 정리 file 깊은바다 2018-09-26 959
다이나믹 메모리 네트워크 정리 file 깊은바다 2018-09-29 1135
딥러닝을 이용한 자연어처리의 연구동향 깊은바다 2018-10-04 631
썰로 푸는 NLP 깊은바다 2018-10-11 494
Seq2Seq와 어텐션 기법을 애니메이션으로 쉽게 설명한 글 깊은바다 2018-10-12 1051
구글의 Transformer 신경망 모델 [2] 깊은바다 2018-10-13 3022
RNN seq2seq 간단한 대화모델 깊은바다 2018-10-23 1364
사전학습을 통한 구글의 자연어처리 언어 모델 - BERT file 깊은바다 2018-11-03 4298
개체명인식 with Naver 깊은바다 2018-11-20 2320
커뮤니케이션과 AI - Multi-channel CNN을 이용한 한국어 감성분석 깊은바다 2018-11-22 1156
딥러닝 자연어처리 튜토리얼 - DLK2NLP [1] 깊은바다 2018-11-24 1220
구글 듀플렉스(Duplex) 상용화 시작 [2] 깊은바다 2018-11-26 644
위키정보를 찾아 잡담을 하는 딥러닝 모델 - Wizard Of Wikipedia file 깊은바다 2018-11-29 898
카카오의 딥러닝 기반 형태소 분석기 깊은바다 2018-11-30 497
목록
쓰기