글 수 226


이루다는 요즘 화제가 되고 있는 일상대화 챗봇입니다. 얼마 전 정식으로 출시가 됐는데요. 구체적인 동작 방식에 대해 설명한 발표영상입니다.

 

전에 소개해드린 레플리카(http://aidev.co.kr/chatbotdeeplearning/10029)와 조금 유사합니다. 먼저 DialogBERT로 문맥을 포함한 입력을 벡터로 임베딩합니다. 그리고 Retrieval에서 입력과 대답목록를 코사인 유사도로 비교합니다. 이렇게 뽑은 후보문장들을 다시 Ranker에서 Poly encoder(https://blog.pingpong.us/ranker-model/)로 최종 답변을 얻습니다. 이는 앞의 입력과 뒤의 답변이 잘 이어지는지 판단하는 신경망 모델입니다.

 

알파에서는 Retrieval을 tf-idf로 유사도 비교를 했습니다. 반면에 베타에서는 DialogBERT로 임베딩한 벡터를 사용한 것이 가장 큰 차이점입니다. 또한 성능에 큰 영향을 주지 않던 모듈들을 제거하여 속도를 높이기도 했습니다.

 

저도 이루다와 대화를 해봤는데요. 개인적으로 Meena나 Blender, 레플리카에 뒤지지 않는 성능이라고 생각합니다(샤오이스는 중국어라 못해봤습니다^^;). 앞으로 전세계를 대표하는 챗봇으로 발전하길 기대합니다.

 

 

 

iruda1.jpg

 

 

 

iruda2.jpg

 

 

 

iruda3.jpg

 

 

 

iruda4.jpg

 

 

 

iruda5.jpg

 

 

 

iruda6.jpg

 

 

 

iruda7.jpg

 

iruda8.jpg

 

 

 

< 발표 영상 >

https://m.tv.naver.com/v/16968268

 

List of Articles
제목 글쓴이 날짜sort 조회 수
네이버의 초거대모델인 하이퍼클로바 가격 공개 깊은바다 2022-08-24 1225
유저 피드백을 받아 지속적으로 학습을 하는 챗봇 - BlenderBot 3 file 깊은바다 2022-08-06 979
최신 자연어처리 모델 소개 file 깊은바다 2022-07-11 1053
러시아의 구글 얀덱스, 100B 초거대모델 무료 공개 깊은바다 2022-06-26 738
구글의 초거대모델 PaLM의 추론과 상식 능력 file 깊은바다 2022-05-20 786
글자, 사진, 영상을 동시에 처리하는 딥마인드의 딥러닝 모델 - Flamingo file 깊은바다 2022-05-10 933
메타, GPT-3와 동급인 175B의 초거대모델 무료 공개 깊은바다 2022-05-04 1059
GPT-3보다 3배 더 큰 구글의 초거대모델, PaLM file 깊은바다 2022-04-07 1324
초거대모델의 파인튜닝 방법 - P-tuning과 LoRA file 깊은바다 2022-04-05 5136
교육용 챗봇의 미래!? 구글 람다 (LaMDA) 깊은바다 2022-03-11 1294
하이퍼클로바 활용예 및 사용가이드 file 깊은바다 2022-03-05 2422
네이버의 초거대모델인 하이퍼클로바 사용 후기 깊은바다 2022-02-14 2607
구글의 대화기반 초거대모델 LaMDA, 논문 공개 file 깊은바다 2022-02-08 1195
프로그램을 작성하는 딥마인드의 알파코드 file 깊은바다 2022-02-04 946
GPT-3를 강화학습으로 업그레이드한 InstructGPT file 깊은바다 2022-01-30 2266