레플리
글 수 284

딥러닝 질의응답 시스템인 cdQA-suite

조회 수 1144 추천 수 0 2020.03.08 23:44:32


 

https://towardsdatascience.com/how-to-create-your-own-question-answering-system-easily-with-python-2ef8abc8eb5

 

 

 

딥러닝 기반의 질의응답 시스템으로 페이스북의 DrQA(https://github.com/facebookresearch/DrQA/)가 가장 유명합니다. 이보다 좀 더 사용하기 편리한 cdQA-suite를 소개해드립니다.

 

DrQA와 동일하게 Retriever와 Reader로 구성됩니다. Retriever는 문서집합을 검색해서 질문과 가장 비슷한 문단을 찾습니다. 문장을 TF-IDF 벡터로 변환하고 유사도를 비교하는 방식입니다. 이렇게 후보 문단들을 추려낸 후, 딥러닝으로 각 문단마다 질문의 답을 선택합니다. SQuAD로 파인튜닝된 BERT 모델을 사용합니다. 마지막으로 가장 높은 확률의 답을 출력합니다.

 

일반적인 MRC(Machine Reading Comprehension) 모델은 지문과 질문을 동시에 입력으로 넣어야 합니다. 반면에 이런 QA 시스템은 질문만 하면 자동으로 지문을 검색해서 정답을 찾습니다. 그래서 실제 서비스에 적용하기가 용이합니다.

엮인글 :
List of Articles
제목 글쓴이 날짜sort 조회 수
RAG를 사용한 페르소나 챗봇 - ChatHaruhi file 깊은바다 2023-10-17 721
LLM Multi Agent: Customer Service를 기깔나게 자동화하는 방법 file [1] 깊은바다 2023-10-09 656
사진을 인식할 수 있는 ChatGPT 멀티모달 버전 공개 file 깊은바다 2023-09-26 281
Poe에 추가된 업스테이지의 LLM, Solar-70b file 깊은바다 2023-09-18 440
RAG 아키텍처를 위한 임베딩 모델의 선택에 대해 깊은바다 2023-09-14 525
LLM의 미래는 자율행동과 멀티 에이전트 깊은바다 2023-08-30 301
LLM이 서로 협력하여 프로그램을 개발 - ChatDev file 깊은바다 2023-08-16 752
GPT-4에 CoT 프롬프를 적용하여 2023 수능 국어 1등급 달성 file 깊은바다 2023-08-08 629
LLM의 창발적인 현상인 CoT(Chain of Thouht) 소개 file 깊은바다 2023-07-27 715
RAG 아키텍처의 이해 깊은바다 2023-07-23 1338
GPT-4 세부구조에 대한 정보 유출 깊은바다 2023-07-20 459
Llama 2의 RLHF 구현 방법 깊은바다 2023-07-19 731
한국어 LLM 민주화의 시작 KoAlpaca file 깊은바다 2023-07-17 1066
레포트를 써주는 LLM - GPT Researcher file 깊은바다 2023-07-13 438
LLM 챗봇의 특징 2가지 - RAG와 Function 깊은바다 2023-07-06 1215