글 수 104

핑퐁의 리액션 모델 - Dialog-BERT 만들기

조회 수 179 추천 수 0 2020.01.28 01:50:48


 

 

 

일상대화 챗봇인 핑퐁에 사용된 Dialog-BERT에 대한 글입니다. 작년 7월에 처음 연재되었는데, 최근에 4편으로 완결되었습니다. 핑퐁은 '연애의 과학'이란 앱에서 수집한 카톡 데이터로 학습을 하였습니다. 이를 전처리하고, 토큰으로 분리하고, BERT로 사전훈련하고, 최종적으로 파인튜닝하는 과정들을 자세히 보여주고 있습니다.

 

리액션 모델은 핑퐁의 핵심적인 알고리즘입니다. 먼저 어떤 입력이라도 대략 1000개 정도의 클래스로 분류합니다. 그다음 거기에 맞는 답변 템플릿 중 하나를 랜덤하게 선택합니다. 과거에는 한 턴만 가능했지만, 지금은 Dialog-BERT를 통해 2~3턴까지 고려하고 있습니다.

 

무엇보다 핑퐁은 카카오톡에서 수집한 방대한 데이터가 강점입니다. 뿐만 아니라 머신러닝과 딥러닝으로 학습하는 기술력 역시 독보적입니다. 오랫동안 쌓아온 노하우를 공개해주신 분들에게 감사드립니다. 일상대화 챗봇에 관심있는 분들은 꼭 읽어보시길 추천드립니다.

 

 

 

1. 카톡 데이터는 어떻게 정제할 수 있을까?
-> https://blog.pingpong.us/dialog-bert-1/

 

2. 누가누가 잘하나! 대화체와 합이 잘 맞는 Tokenizer를 찾아보자!
-> https://blog.pingpong.us/tokenizer/

 

3. 카톡 대화 데이터를 BERT로 잘 학습시킬 수 있을까?
-> https://blog.pingpong.us/dialog-bert-pretrain/

 

4. 대화의 Context를 반영한 답변을 생성할 수 있을까?
-> https://blog.pingpong.us/ml-dialog-bert-multiturn

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
GPT2로 만든 가상의 SNS - Botnet 깊은바다 2020-02-14 93
SKT가 공개한 한글 GPT2 - KoGPT2 깊은바다 2020-02-02 258
구글의 일상대화 딥러닝 모델 - Meena file 깊은바다 2020-01-30 313
핑퐁의 리액션 모델 - Dialog-BERT 만들기 깊은바다 2020-01-28 179
책 한권을 입력으로 받는 구글의 딥러닝 모델 - Reformer 깊은바다 2020-01-17 228
GPT2 텍스트 어드벤처 게임, AI Dungeon 앱 출시 깊은바다 2019-12-23 121
네이버 영화리뷰 감정분석 with Hugging Face BERT file 깊은바다 2019-12-17 412
GPT2로 만든 텍스트 어드벤처 게임 깊은바다 2019-12-09 170
인공지능과 함께 글쓰기! 창의 AI x Bookathon 대회 - GPT2 깊은바다 2019-11-30 257
GLUE: 벤치마크를 통해 BERT 이해하기 깊은바다 2019-11-19 422
GPT2의 1.5B 모델 공개 깊은바다 2019-11-08 241
GPT2로 글을 작성하는 사이트 - StoryAI file 깊은바다 2019-10-11 288
딥러닝 기반 자연어 언어모델 BERT - Colab 실습 코드 포함 file 깊은바다 2019-09-02 635
욕설을 찾는 BERT 모델 - Purifier 깊은바다 2019-08-28 521
딥러닝을 활용한 뉴스 메타 태깅 깊은바다 2019-08-26 204