레플리
글 수 283


 

 

https://blog.pingpong.us/ranker-model/

 

 

 

스캐터랩의 일상대화 챗봇인 핑퐁은 여러 방식의 알고리즘을 사용합니다. 첫째는 리액션입니다. 질문을 카테고리로 분류하여 적당하게 맞장구를 합니다. 둘째는 유사도 비교입니다. 일반 챗봇이 주로 쓰는 기법으로 질문과 가장 비슷한 Q문장을 찾아 그 A문장을 출력합니다. 셋째는 답변매칭입니다. 유사도 비교는 QA문장을 작성하지만 여기서는 A문장만 입력합니다. 그리고 이전 질문과 이어지는 가장 적합한 A문장을 선택하여 대답합니다.

 

이 글은 답변매칭을 어떻게 구현했는지를 아주 자세하게 설명하고 있습니다. 제 기억에 초기 버전은 BERT의 Next sentence prediction을 사용해서 한 턴만 비교할 수 있었습니다. 지금은 여러 턴의 문맥을 처리하도록 새로운 모델을 도입했습니다. 그 밖에 유용한 기법들이 많으니 시간을 내어 읽어보시길 추천드립니다.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
잡담봇 삽질기 - 문봇에서 딥러닝 Seq2Seq로 문장 생성 깊은바다 2018-03-25 857
Word2Vec의 학습 방식 깊은바다 2019-01-17 898
스캐터랩의 핑퐁팀, 새로운 생성 모델 챗봇 데모 공개 깊은바다 2020-11-02 898
위키정보를 찾아 잡담을 하는 딥러닝 모델 - Wizard Of Wikipedia file 깊은바다 2018-11-29 900
딥러닝을 사용하여 심심이의 나쁜말 필터링 기능 구현 깊은바다 2019-08-14 902
위키에서 질문의 답을 찾는 딥러닝 모델, 페이스북의 DrQA file 깊은바다 2019-08-03 902
GPT3 유료화 기능 소개 영상 깊은바다 2020-06-15 915
문장을 벡터로 변환하는 방법들 깊은바다 2021-09-16 931
LG 사이언스파크에서 만든 한글 MRC(기계독해) 데모 file [2] 깊은바다 2020-03-07 933
머신러닝의 자연어처리 기술 깊은바다 2018-05-11 937
페이스북의 일상대화 딥러닝 모델 - BlenderBot file 깊은바다 2020-05-01 949
질의응답을 위한 딥러닝 모델인 메모리 네트워크 정리 file 깊은바다 2018-09-26 960
End-To-End Memory Networks - 자연어 질문에 대답하는 모델 [2] 깊은바다 2017-08-21 962
OpenAI의 대화전용 딥러닝 모델 - ChatGPT file 깊은바다 2022-12-02 965
가짜뉴스를 생성 또는 판별하는 딥러닝 모델 - Grover 깊은바다 2019-06-01 969