레플리
글 수 283

End-To-End Memory Networks - 자연어 질문에 대답하는 모델

조회 수 962 추천 수 0 2017.08.21 00:38:11
깊은바다 *.68.247.188


python_babi_qa.gif

 

http://solarisailab.com/archives/690

https://www.slideshare.net/carpedm20/ss-63116251 (30페이지 부터)

 

 

 

End-To-End Memory Networks는 페이스북에서 발표한 자연어처리 모델입니다.

문장들을 벡터로 메모리에 저장하고 입력문장 역시 벡터로 변환합니다.

그리고 신경망으로 통한 학습을 통해 입력한 문장에 대해 적절한 답을 출력할 수 있습니다.

 

간단한 QA는 이런 모델을 사용하여 처리할 수도 있을 것 같습니다.

 

이 게시물을
엮인글 :
목록

LegenDUST

2017.08.22 00:51:32
*.221.204.58

http://yerevann.com/dmn-ui/#/

요기에 온라인 데모가 있네요.

그런데 오류가 아직 많은것 같아요...

Cats are afraid of rhino.
Sheep are afraid of wolves.
Mice are afraid of cats.
Winona is a mouse.
Jessica is a cat.
Wolves are afraid of sheep.
Emily is a cat.
Gertrude is a sheep.

요렇게 해놓고

what is Jessica afraid of?

이걸 넣으니까 sheep이라고 답하네요.(위 데모 기준)

깊은바다

2017.08.23 00:39:29
*.68.247.188

저도 해봤는데 재미있네요~

간단한건 되는거 같은데 조금만 논리가 복잡해지면 잘 안되는 것 같아요.

아직 시작이니 점점 좋아지겠죠.

List of Articles
제목 글쓴이 날짜 조회 수sort
페이스북이 발표한 사전훈련 언어모델 RoBERTa file 깊은바다 2019-07-30 1429
GPT-4의 특징 정리 file 깊은바다 2023-03-15 1413
GPT-3보다 3배 더 큰 구글의 초거대모델, PaLM file 깊은바다 2022-04-07 1408
소설 쓰는 딥러닝 file 깊은바다 2018-08-31 1388
핑퐁의 리액션 모델 - Dialog-BERT 만들기 깊은바다 2020-01-28 1381
GPT-3, InstructGPT, GPT-3.5, ChatGPT의 차이점 깊은바다 2023-04-05 1381
사전훈련 자연어처리 모델의 발전과정 - The Illustrated BERT, ELMo, and co. 깊은바다 2019-01-01 1379
RNN seq2seq 간단한 대화모델 깊은바다 2018-10-23 1366
교육용 챗봇의 미래!? 구글 람다 (LaMDA) 깊은바다 2022-03-11 1362
구글의 대화기반 초거대모델 LaMDA, 논문 공개 file 깊은바다 2022-02-08 1361
ChatGPT의 가장 큰 특징인 in-context learning file 깊은바다 2023-02-21 1361
RAG 아키텍처의 이해 깊은바다 2023-07-23 1338
딥러닝 자연어처리 튜토리얼 - DLK2NLP [1] 깊은바다 2018-11-24 1221
LLM 챗봇의 특징 2가지 - RAG와 Function 깊은바다 2023-07-06 1215
Word2Vec 테스트 사이트 file 깊은바다 2019-01-13 1199
목록
쓰기