레플리
글 수 282


íì¤í¸

 

https://github.com/simsimi/DeepBadSentence

 

 

 

심심이는 2002년 처음 출시한 챗봇으로 전세계 챗봇 역사에 큰 획을 그었던 제품입니다. 그전까지 Alice나 Cleverbot은 AIML 같은 형식으로 질문과 대답을 작성하였습니다. 이런 방식은 보다 정교하게 대화를 컨트롤할 수 있다는 장점이 있습니다. 대신 개발자가 일일이 추가를 해야 하기 때문에 데이터셋을 늘리는데 한계가 있었습니다.

 

이 틀을 깨버린 것이 심심이입니다. 사용자가 직접 가르치는 기능을 넣어서 방대한 대화 목록을 구축하였습니다. 말이 이어지지 않거나 부적절한 문장을 걸러내기 어렵다는 문제가 발생했지만, 재미 그 자체에서는 확실한 강점을 보여주었습니다.

 

 

 

보통 일상대화 챗봇은 CPS(Conversation-turns Per Session), 즉 접속 이후 발생한 대화의 개수로 측정합니다. 많이 말을 주고받을수록 더 재미있다는 것을 뜻합니다. MS의 샤오이스가 23, 스캐터랩의 핑퐁이 17입니다. 그런데 제가 직접 들은바에 의하면 심심이는 무려 43입니다. 서비스 기간이 오래되었고 골수팬이 많다는 것을 고려해도 엄청난 수치입니다.

 

핑퐁의 리액션 모델은 입력 문장을 2000개의 카테고리로 분류합니다. 그래서 어떤 말에도 그럴듯한 대답이 가능합니다. 문제는 바로 2000개의 종류 밖에 대답이 없다는 것입니다. 이를 보완하기 위해 Reply Retrieval 모델을 추가하였습니다. 대답 문장만 따로 만들어놓고 질문과 가장 잘 어울리는 문장을 선택합니다. 그러나 결국 이것도 개발자가 작성해야 하므로 무작정 늘리기엔 한계가 있습니다. 심심이 같이 노래 한곡을 서로 이어서 부르는 등 재미있고 다양한 대화를 나누기 어렵습니다.

 

 

 

그동안 심심이의 아킬레스건이었던 나쁜말 필터링 기술이 딥러닝 덕분에 큰 발전을 했다고 합니다. 링크된 글을 보면 실제 글로벌 서비스 경험에서 얻은 인사이트를 느끼실 수 있습니다. 개인적으로는 대화를 좀 더 부드럽게 이어주는 다이얼로그 매니지먼트가 추가되었으면 좋겠습니다. 다만 80개가 넘는 언어에 대응을 해야 하기 때문에 그리 쉽지 않은 도전입니다. 그래도 앞으로 심심이가 일상대화 인공지능 분야에서 훨씬 더 발전할 것이라 생각합니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
Jay Alammar의 트랜스포머 한글 번역글 깊은바다 2019-05-09 1063
한국어 LLM 민주화의 시작 KoAlpaca file 깊은바다 2023-07-17 1053
Seq2Seq와 어텐션 기법을 애니메이션으로 쉽게 설명한 글 깊은바다 2018-10-12 1051
GPT-3의 다섯 가지 한계 깊은바다 2020-08-23 1050
단어를 벡터로 변환하는 Word2Vec 깊은바다 2017-05-04 1039
추천시스템이 word2vec을 만났을때 깊은바다 2018-08-22 1032
Meme 자동 생성기 깊은바다 2020-05-11 1023
딥러닝 기반 자연어처리 기법의 최근 연구 동향 [2] 깊은바다 2017-12-17 1020
딥러닝과 자연어처리의 집중 메커니즘 깊은바다 2018-09-08 1019
페르소나에 따라 대화를 하는 딥러닝 챗봇 by Hugging Face 깊은바다 2020-03-06 1007
프로그램을 작성하는 딥마인드의 알파코드 file 깊은바다 2022-02-04 1005
7B의 Alpaca가 175B의 GPT-3.5와 동급의 성능을 보임 file 깊은바다 2023-03-14 976
가짜뉴스를 생성 또는 판별하는 딥러닝 모델 - Grover 깊은바다 2019-06-01 969
OpenAI의 대화전용 딥러닝 모델 - ChatGPT file 깊은바다 2022-12-02 965
End-To-End Memory Networks - 자연어 질문에 대답하는 모델 [2] 깊은바다 2017-08-21 962