레플리
글 수 220

end-to-end 챗봇 질문

조회 수 175 추천 수 0 2019.02.20 21:59:32


안녕하세요. 딥러닝을 이용한 대화 시스템에 대해서 공부하고 있는 대학원생입니다.

 

seq2seq 나, attention 모델을 사용해서 end-to-end 챗봇을 구현하고 싶은데, 크게 두 가지 사항에 대해서 여쭤보고 싶어 글을 올립니다.

 

1. log-likelihood 를 loss 로 두어 학습하면, 앞 문장에 대해 뒷 문장이 나오도록 학습하게 되어, 다양한 답변의 데이터를 갖추지 못한 경우에, 의미가 없거나 (trivial) 짧은 답변이 가장 적은 loss 값을 가져 최종 답변으로 출력되는 경우가 있습니다.

 

2. 대화 시스템에서 중요시 되는 특성 중 하나가 답변의 다양성인데, 현재 상태를 나타내는 context weight 에 대해서만 전환하기에는 학습에 무리가 있습니다. (대화 내용이 상황의 다양성을 전부 표현하지는 못하기 때문에)

 

1) trivial 하고 짧은 답변을 피하면서, 문법 구조를 파괴시키지 않는 방법 중에 가장 간단한 방법이 어떤 것이 있을 지 궁금합니다.

 

2) end-to-end 학습방식의 챗봇에서 다양한 상황에 따라 다양한 답변을 출력하기 위해선 어떤 방법들이 사용될 수 있나요. (입력 문장은 같지만 전후 맥락에 대한 다른 답변)

 

이에 대해 관련된 자료나 답변이 있으신 경우, 도움을 주시면 감사하겠습니다. 

태그
엮인글 :

깊은바다

2019.02.22 01:57:19
*.68.247.186

seq2seq beam search로 검색해보면 좋을 듯 합니다. k개 만큼 각각 다른 대답을 얻게 학습하는 방법입니다. 

 

https://medium.com/the-artificial-impostor/implementing-beam-search-part-1-4f53482daabe

 

https://arxiv.org/pdf/1606.02960.pdf

 

List of Articles
제목 글쓴이 날짜sort 조회 수
카톡 대화를 학습하는 AI 아바타 챗봇 - 레플리 file 깊은바다 2024-01-17 306
오픈 컨트리뷰터의 코드 참고법에 대해 질문드립니다. [2] Roger 2020-10-19 109
딥러닝을 위한 레이블링 질문입니다. [1] Jang 2020-10-15 152
안녕하세요 가입인사드리며 질문도 하나 여쭙겠습니다. [2] 병쥐 2020-10-15 128
제가 만든 ai fitness 사이트 어떤 가요? 처음 만듬 [1] sdfsdf 2020-09-28 233
장고와 카카오 i 오픈 빌더 사용법 질문 ㅠㅠ file [1] 애뚱이 2020-09-19 320
[질문]학습과정에서의 Ram [2] 삽질만하네 2020-09-12 420
말 만들어주는 인공지능 만들었어요! [1] mail 2020-09-08 279
감성 AI 챗봇 문의드립니다. [2] 아임둥 2020-09-06 222
seq2seq train과 test 분리에 대한 질문 [4] Nike 2020-09-03 116
가입 인사드립니다. [2] 민주아빠 2020-08-04 121
개인 신분으로 연구 데이터(human3.6m)에 대한 접근 YONGS 2020-06-10 501
카카오톡 '나는 원숭이다' 해킹 사건의 전말 깊은바다 2020-05-23 1787
경사하강법 질문있습니다! [3] 평범한공대생 2020-04-29 216
신경망 관련 질문 드립니다. [1] 엄고 2020-04-28 144
객체 인식관련 질문드립니다. [1] harrym 2020-04-20 162