글 수 180

핑퐁의 리액션 모델 - Dialog-BERT 만들기

조회 수 1278 추천 수 0 2020.01.28 01:50:48


 

 

 

일상대화 챗봇인 핑퐁에 사용된 Dialog-BERT에 대한 글입니다. 작년 7월에 처음 연재되었는데, 최근에 4편으로 완결되었습니다. 핑퐁은 '연애의 과학'이란 앱에서 수집한 카톡 데이터로 학습을 하였습니다. 이를 전처리하고, 토큰으로 분리하고, BERT로 사전훈련하고, 최종적으로 파인튜닝하는 과정들을 자세히 보여주고 있습니다.

 

리액션 모델은 핑퐁의 핵심적인 알고리즘입니다. 먼저 어떤 입력이라도 대략 1000개 정도의 클래스로 분류합니다. 그다음 거기에 맞는 답변 템플릿 중 하나를 랜덤하게 선택합니다. 과거에는 한 턴만 가능했지만, 지금은 Dialog-BERT를 통해 2~3턴까지 고려하고 있습니다.

 

무엇보다 핑퐁은 카카오톡에서 수집한 방대한 데이터가 강점입니다. 뿐만 아니라 머신러닝과 딥러닝으로 학습하는 기술력 역시 독보적입니다. 오랫동안 쌓아온 노하우를 공개해주신 분들에게 감사드립니다. 일상대화 챗봇에 관심있는 분들은 꼭 읽어보시길 추천드립니다.

 

 

 

1. 카톡 데이터는 어떻게 정제할 수 있을까?
-> https://blog.pingpong.us/dialog-bert-1/

 

2. 누가누가 잘하나! 대화체와 합이 잘 맞는 Tokenizer를 찾아보자!
-> https://blog.pingpong.us/tokenizer/

 

3. 카톡 대화 데이터를 BERT로 잘 학습시킬 수 있을까?
-> https://blog.pingpong.us/dialog-bert-pretrain/

 

4. 대화의 Context를 반영한 답변을 생성할 수 있을까?
-> https://blog.pingpong.us/ml-dialog-bert-multiturn

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
페르소나에 따라 대화를 하는 딥러닝 챗봇 by Hugging Face 깊은바다 2020-03-06 585
GPT2로 만든 가상의 SNS - Botnet 깊은바다 2020-02-14 439
SKT가 공개한 한글 GPT2 - KoGPT2 깊은바다 2020-02-02 5104
구글의 일상대화 딥러닝 모델 - Meena file 깊은바다 2020-01-30 1388
핑퐁의 리액션 모델 - Dialog-BERT 만들기 깊은바다 2020-01-28 1278
책 한권을 입력으로 받는 구글의 딥러닝 모델 - Reformer 깊은바다 2020-01-17 583
GPT2 텍스트 어드벤처 게임, AI Dungeon 앱 출시 깊은바다 2019-12-23 363
네이버 영화리뷰 감정분석 with Hugging Face BERT file 깊은바다 2019-12-17 3885
GPT2로 만든 텍스트 어드벤처 게임 깊은바다 2019-12-09 649
인공지능과 함께 글쓰기! 창의 AI x Bookathon 대회 - GPT2 깊은바다 2019-11-30 538
GLUE: 벤치마크를 통해 BERT 이해하기 깊은바다 2019-11-19 1627
GPT2의 1.5B 모델 공개 깊은바다 2019-11-08 502
GPT2로 글을 작성하는 사이트 - StoryAI file 깊은바다 2019-10-11 1508
딥러닝 기반 자연어 언어모델 BERT - Colab 실습 코드 포함 file 깊은바다 2019-09-02 1104
욕설을 찾는 BERT 모델 - Purifier 깊은바다 2019-08-28 2277