레플리
글 수 293

MS의 딥러닝 대화 모델 - DialoGPT

조회 수 533 추천 수 0 2020.04.24 17:23:24
깊은바다 *.68.249.101


K-001.png

 

 

 

MS에서 발표한 딥러닝 대화 모델인 DialoGPT입니다. 이름 그대로 GPT2를 기본으로 하고, 이를 대화 도메인에 맞게 약간 변형하였습니다. 각 턴의 텍스트를 End Token으로 구분하고 이어붙여서 입력으로 사용합니다. 래딧의 댓글들을 크롤링하여 질문과 대답의 학습 데이터로 생성하였다고 합니다.

 

모델의 파라미터가 762M인데요. GPT2가 1500M, 구글 Meena가 2600M인 것에 비하면 조금 작습니다. 그래서인지 성능이 그리 뛰어나지는 않은 듯 합니다. 2턴 이상의 문맥은 어느정도 이어지지만, 대답이 짧은 편입니다. 또한 같은 말을 계속 반복하는 경향이 너무 심합니다. Meena가 빨리 공개되어서 한 번 테스트를 해봤으면 좋겠네요.

 

 

 

< 논문 >

-> https://arxiv.org/abs/1911.00536

 

< Colab 실행 코드 >

-> https://colab.research.google.com/drive/1D67YQ7_Rfu8DN2ciYdxfb3KNbRCgiyJh

 

이 게시물을
첨부
엮인글 :
목록
List of Articles
제목 글쓴이 날짜 조회 수
딥러닝 상식추론 모델- COMET file 깊은바다 2020-05-04 543
페이스북의 일상대화 딥러닝 모델 - BlenderBot file 깊은바다 2020-05-01 1060
MS의 딥러닝 대화 모델 - DialoGPT file 깊은바다 2020-04-24 533
Dialog-BERT: 100억건의 메신저대화로 일상대화 인공지능 서비스하기 file [1] 깊은바다 2020-04-19 1158
장문의 대답을 평가하는 자연어처리 벤치마크 - TuringAdvice 깊은바다 2020-04-17 267
아마존, End-to-End 딥러닝 기술을 고객서비스에 챗봇에 적용 깊은바다 2020-03-17 521
딥러닝 질의응답 시스템인 cdQA-suite 깊은바다 2020-03-08 1197
LG 사이언스파크에서 만든 한글 MRC(기계독해) 데모 file [2] 깊은바다 2020-03-07 999
페르소나에 따라 대화를 하는 딥러닝 챗봇 by Hugging Face 깊은바다 2020-03-06 1112
GPT2로 만든 가상의 SNS - Botnet 깊은바다 2020-02-14 513
SKT가 공개한 한글 GPT2 - KoGPT2 깊은바다 2020-02-02 5382
구글의 일상대화 딥러닝 모델 - Meena file 깊은바다 2020-01-30 1872
핑퐁의 리액션 모델 - Dialog-BERT 만들기 깊은바다 2020-01-28 1448
책 한권을 입력으로 받는 구글의 딥러닝 모델 - Reformer 깊은바다 2020-01-17 672
GPT2 텍스트 어드벤처 게임, AI Dungeon 앱 출시 깊은바다 2019-12-23 449
목록
쓰기