글 수 94


íì¤í¸

 

https://github.com/simsimi/DeepBadSentence

 

 

 

심심이는 2002년 처음 출시한 챗봇으로 전세계 챗봇 역사에 큰 획을 그었던 제품입니다. 그전까지 Alice나 Cleverbot은 AIML 같은 형식으로 질문과 대답을 작성하였습니다. 이런 방식은 보다 정교하게 대화를 컨트롤할 수 있다는 장점이 있습니다. 대신 개발자가 일일이 추가를 해야 하기 때문에 데이터셋을 늘리는데 한계가 있었습니다.

 

이 틀을 깨버린 것이 심심이입니다. 사용자가 직접 가르치는 기능을 넣어서 방대한 대화 목록을 구축하였습니다. 말이 이어지지 않거나 부적절한 문장을 걸러내기 어렵다는 문제가 발생했지만, 재미 그 자체에서는 확실한 강점을 보여주었습니다.

 

 

 

보통 일상대화 챗봇은 CPS(Conversation-turns Per Session), 즉 접속 이후 발생한 대화의 개수로 측정합니다. 많이 말을 주고받을수록 더 재미있다는 것을 뜻합니다. MS의 샤오이스가 23, 스캐터랩의 핑퐁이 17입니다. 그런데 제가 직접 들은바에 의하면 심심이는 무려 43입니다. 서비스 기간이 오래되었고 골수팬이 많다는 것을 고려해도 엄청난 수치입니다.

 

핑퐁의 리액션 모델은 입력 문장을 2000개의 카테고리로 분류합니다. 그래서 어떤 말에도 그럴듯한 대답이 가능합니다. 문제는 바로 2000개의 종류 밖에 대답이 없다는 것입니다. 이를 보완하기 위해 Reply Retrieval 모델을 추가하였습니다. 대답 문장만 따로 만들어놓고 질문과 가장 잘 어울리는 문장을 선택합니다. 그러나 결국 이것도 개발자가 작성해야 하므로 무작정 늘리기엔 한계가 있습니다. 심심이 같이 노래 한곡을 서로 이어서 부르는 등 재미있고 다양한 대화를 나누기 어렵습니다.

 

 

 

그동안 심심이의 아킬레스건이었던 나쁜말 필터링 기술이 딥러닝 덕분에 큰 발전을 했다고 합니다. 링크된 글을 보면 실제 글로벌 서비스 경험에서 얻은 인사이트를 느끼실 수 있습니다. 개인적으로는 대화를 좀 더 부드럽게 이어주는 다이얼로그 매니지먼트가 추가되었으면 좋겠습니다. 다만 80개가 넘는 언어에 대응을 해야 하기 때문에 그리 쉽지 않은 도전입니다. 그래도 앞으로 심심이가 일상대화 인공지능 분야에서 훨씬 더 발전할 것이라 생각합니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
GPT2의 1.5B 모델 공개 깊은바다 2019-11-08 52
GPT2로 글을 작성하는 사이트 - StoryAI file 깊은바다 2019-10-11 131
딥러닝 기반 자연어 언어모델 BERT - Colab 실습 코드 포함 file 깊은바다 2019-09-02 404
욕설을 찾는 BERT 모델 - Purifier 깊은바다 2019-08-28 305
딥러닝을 활용한 뉴스 메타 태깅 깊은바다 2019-08-26 143
100억건의 카카오톡 데이터로 
똑똑한 일상대화 인공지능 만들기 - 핑퐁 멀티턴 file 깊은바다 2019-08-20 425
새로운 자연어처리 벤치마크 - SuperGLUE 깊은바다 2019-08-15 214
딥러닝을 사용하여 심심이의 나쁜말 필터링 기능 구현 깊은바다 2019-08-14 206
위키에서 질문의 답을 찾는 딥러닝 모델, 페이스북의 DrQA file 깊은바다 2019-08-03 156
페이스북이 발표한 사전훈련 언어모델 RoBERTa file 깊은바다 2019-07-30 369
케라스로 만든 한글 Seq2Seq 챗봇 소스코드 깊은바다 2019-07-13 585
딥러닝 자연어처리 강의 - Natural Language Processing with PyTorch 깊은바다 2019-07-06 299
딥러닝을 사용하여 의도 및 엔티티를 파악하는 챗봇 소스코드 file 깊은바다 2019-06-25 703
가짜뉴스를 생성 또는 판별하는 딥러닝 모델 - Grover 깊은바다 2019-06-01 335
GPT2를 Colab에서 테스트할 수 있는 코드 깊은바다 2019-05-21 354