레플리
글 수 283


 

 

https://blog.pingpong.us/ranker-model/

 

 

 

스캐터랩의 일상대화 챗봇인 핑퐁은 여러 방식의 알고리즘을 사용합니다. 첫째는 리액션입니다. 질문을 카테고리로 분류하여 적당하게 맞장구를 합니다. 둘째는 유사도 비교입니다. 일반 챗봇이 주로 쓰는 기법으로 질문과 가장 비슷한 Q문장을 찾아 그 A문장을 출력합니다. 셋째는 답변매칭입니다. 유사도 비교는 QA문장을 작성하지만 여기서는 A문장만 입력합니다. 그리고 이전 질문과 이어지는 가장 적합한 A문장을 선택하여 대답합니다.

 

이 글은 답변매칭을 어떻게 구현했는지를 아주 자세하게 설명하고 있습니다. 제 기억에 초기 버전은 BERT의 Next sentence prediction을 사용해서 한 턴만 비교할 수 있었습니다. 지금은 여러 턴의 문맥을 처리하도록 새로운 모델을 도입했습니다. 그 밖에 유용한 기법들이 많으니 시간을 내어 읽어보시길 추천드립니다.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
BERT 톺아보기 깊은바다 2018-12-17 26395
딥러닝을 사용한 챗봇 개발방법 정리 file 깊은바다 2018-02-03 25439
초거대모델의 파인튜닝 방법 - P-tuning과 LoRA file 깊은바다 2022-04-05 12066
RAG(Retrieval-Augmented Generation) - LLM의 환각을 줄이는 방법 file 깊은바다 2023-07-04 9693
글쓰기 보조 서비스 JasperAI, ChatGPT 때문에 어려움 직면 깊은바다 2023-03-01 9693
딥러닝 RNN으로 구현한 챗봇 깊은바다 2017-08-01 8135
문장을 학습하는 딥러닝 RNN의 Seq2Seq 모델 설명 file 깊은바다 2017-09-15 7327
챗봇에 딥러닝 학습을 적용하기 어려운 이유 file 깊은바다 2018-03-23 6641
KoGPT2, KoBERT, KoELECTRA로 만든 심리상담 챗봇 file 깊은바다 2020-08-05 6355
문장을 입력하면 비슷한 짤방을 보여주는 프로젝트 file 깊은바다 2019-01-28 6172
SKT가 공개한 한글 GPT2 - KoGPT2 깊은바다 2020-02-02 5296
챗봇에서 유사한 문장 자동인식 방법 file 깊은바다 2018-04-27 5152
네이버 영화리뷰 감정분석 with Hugging Face BERT file 깊은바다 2019-12-17 4668
사전학습을 통한 구글의 자연어처리 언어 모델 - BERT file 깊은바다 2018-11-03 4299
인라이플의 한글 BERT 대형모델 깊은바다 2020-05-18 4246