레플리
글 수 282


 

 

https://blog.pingpong.us/ranker-model/

 

 

 

스캐터랩의 일상대화 챗봇인 핑퐁은 여러 방식의 알고리즘을 사용합니다. 첫째는 리액션입니다. 질문을 카테고리로 분류하여 적당하게 맞장구를 합니다. 둘째는 유사도 비교입니다. 일반 챗봇이 주로 쓰는 기법으로 질문과 가장 비슷한 Q문장을 찾아 그 A문장을 출력합니다. 셋째는 답변매칭입니다. 유사도 비교는 QA문장을 작성하지만 여기서는 A문장만 입력합니다. 그리고 이전 질문과 이어지는 가장 적합한 A문장을 선택하여 대답합니다.

 

이 글은 답변매칭을 어떻게 구현했는지를 아주 자세하게 설명하고 있습니다. 제 기억에 초기 버전은 BERT의 Next sentence prediction을 사용해서 한 턴만 비교할 수 있었습니다. 지금은 여러 턴의 문맥을 처리하도록 새로운 모델을 도입했습니다. 그 밖에 유용한 기법들이 많으니 시간을 내어 읽어보시길 추천드립니다.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
구글의 초거대모델 PaLM의 추론과 상식 능력 file 깊은바다 2022-05-20 838
DALL-E를 능가하는 OpenAI의 GLIDE 깊은바다 2021-12-27 836
네이버 뉴스 댓글로 사전훈련한 구어체 모델 - KcBERT 깊은바다 2020-07-20 813
러시아의 구글 얀덱스, 100B 초거대모델 무료 공개 깊은바다 2022-06-26 806
GPT-3 패러다임을 바꿀 미친 성능의 인공지능 등장 및 활용 사례 10가지 깊은바다 2020-09-14 799
ChatGPT 프롬프트 엔지니어링 - 다양한 말투로 대답하기 file 깊은바다 2023-02-17 798
ChatGPT와 유사한 서비스 - Chatsonic file 깊은바다 2023-01-09 794
GPT3로 하는 리액트 프로그래밍 file 깊은바다 2020-07-19 769
HyperCLOVA로 만드는 캐릭터 챗봇 file 깊은바다 2021-11-26 761
LLM이 서로 협력하여 프로그램을 개발 - ChatDev file 깊은바다 2023-08-16 750
GPT3가 상식을 가지고 있을까 깊은바다 2020-07-24 741
Llama 2의 RLHF 구현 방법 깊은바다 2023-07-19 720
GPT-3를 헬스케어 서비스에 적용했을 때의 문제점들 깊은바다 2020-11-04 707
RAG를 사용한 페르소나 챗봇 - ChatHaruhi file 깊은바다 2023-10-17 705
LLM의 창발적인 현상인 CoT(Chain of Thouht) 소개 file 깊은바다 2023-07-27 704