레플리
글 수 282

좋은 응답을 골라내는 모델 만들기 - 핑퐁의 답변매칭 알고리즘

조회 수 553 추천 수 0 2020.12.10 14:10:33
깊은바다 *.52.246.214


 

 

https://blog.pingpong.us/ranker-model/

 

 

 

스캐터랩의 일상대화 챗봇인 핑퐁은 여러 방식의 알고리즘을 사용합니다. 첫째는 리액션입니다. 질문을 카테고리로 분류하여 적당하게 맞장구를 합니다. 둘째는 유사도 비교입니다. 일반 챗봇이 주로 쓰는 기법으로 질문과 가장 비슷한 Q문장을 찾아 그 A문장을 출력합니다. 셋째는 답변매칭입니다. 유사도 비교는 QA문장을 작성하지만 여기서는 A문장만 입력합니다. 그리고 이전 질문과 이어지는 가장 적합한 A문장을 선택하여 대답합니다.

 

이 글은 답변매칭을 어떻게 구현했는지를 아주 자세하게 설명하고 있습니다. 제 기억에 초기 버전은 BERT의 Next sentence prediction을 사용해서 한 턴만 비교할 수 있었습니다. 지금은 여러 턴의 문맥을 처리하도록 새로운 모델을 도입했습니다. 그 밖에 유용한 기법들이 많으니 시간을 내어 읽어보시길 추천드립니다.

 

이 게시물을
엮인글 :
목록
List of Articles
제목 글쓴이 날짜 조회 수
사진을 인식할 수 있는 ChatGPT 멀티모달 버전 공개 file 깊은바다 2023-09-26 276
Poe에 추가된 업스테이지의 LLM, Solar-70b file 깊은바다 2023-09-18 431
RAG 아키텍처를 위한 임베딩 모델의 선택에 대해 깊은바다 2023-09-14 515
LLM의 미래는 자율행동과 멀티 에이전트 깊은바다 2023-08-30 298
LLM이 서로 협력하여 프로그램을 개발 - ChatDev file 깊은바다 2023-08-16 749
GPT-4에 CoT 프롬프를 적용하여 2023 수능 국어 1등급 달성 file 깊은바다 2023-08-08 620
LLM의 창발적인 현상인 CoT(Chain of Thouht) 소개 file 깊은바다 2023-07-27 704
RAG 아키텍처의 이해 깊은바다 2023-07-23 1323
GPT-4 세부구조에 대한 정보 유출 깊은바다 2023-07-20 456
Llama 2의 RLHF 구현 방법 깊은바다 2023-07-19 714
한국어 LLM 민주화의 시작 KoAlpaca file 깊은바다 2023-07-17 1053
레포트를 써주는 LLM - GPT Researcher file 깊은바다 2023-07-13 401
LLM 챗봇의 특징 2가지 - RAG와 Function 깊은바다 2023-07-06 1191
RAG(Retrieval-Augmented Generation) - LLM의 환각을 줄이는 방법 file 깊은바다 2023-07-04 9616
Generative AI — 시장 구조, 기회, moat에 대한 몇 가지 생각 깊은바다 2023-06-27 302
목록
쓰기