레플리
글 수 293


K-001.png

 

https://speakerdeck.com/codertimo/paikon-2019-100eoggeonyi-kakaotog-deiteoro-ddogddoghan-ilsangdaehwa-ingongjineung-mandeulgi

 

 

 

이번 파이콘에서 발표한 핑퐁에 대한 소개입니다. 특히 이전 자료들와 달리 BERT로 만든 멀티턴 리액션을 자세히 다루고 있습니다. 아래 예시처럼 5개의 연속된 문장을 하나의 입력으로 사용합니다. 이때 Turn Embedding을 추가하여 문장들의 순서를 구분합니다.

 

 

 

"우울해|무슨일있어요|크리스마스인데 나만 솔로야|좋은 사람 만날 수 있을거에요|그럴까?"

-> 네 그럴거에요

 

"신난다|무슨일있어요|오늘 날씨가 너무 좋아|한강이라도 가요|그럴까?"

-> 같이 갈래요?

 

 

 

마지막 문장이 '그럴까?'로 같지만 이전 문맥에 따라 다른 답변을 하고 있습니다. 저도 데모를 직접 해봤는데요. 완벽하지는 않지만 어느정도 멀티턴으로 대답을 합니다.

 

사실 이 아이디어 자체는 그리 새로운 것은 아닙니다. 다만 한 문장이 아니라 연속적인 여러 문장을 커버하려면 그만큼 학습 데이터가 엄청나게 필요합니다. 물론 실제 구현하는 것도 어렵겠지만, 알고리즘만 있다고 가능한 모델은 아닙니다^^; 궁금하신 분은 아래 사이트에서 테스트하실 수 있습니다.

 

 

 

< 핑퐁 멀티턴 데모 >

-> https://demo.pingpong.us/multi-turn-reaction/

 

 

List of Articles
제목 글쓴이 날짜 조회 수sort
Java에서 Word2vec 사용하기 깊은바다 2018-05-05 2158
KoNLPy를 이용하여 Huggingface Transformers 학습하기 깊은바다 2020-09-20 2163
KoGPT2 v2.0 공개 깊은바다 2021-05-03 2209
글쓰는 법을 배우는 신경망 깊은바다 2016-03-25 2240
GPT3 유료화 가격 공개 file 깊은바다 2020-09-04 2267
100억건의 카카오톡 데이터로 
똑똑한 일상대화 인공지능 만들기 - 핑퐁 멀티턴 file 깊은바다 2019-08-20 2286
딥러닝을 사용한 감성분석기 개발 깊은바다 2018-02-22 2295
GPT2를 Colab에서 테스트할 수 있는 코드 깊은바다 2019-05-21 2312
일상대화 챗봇 레플리카(Replika)의 구현 방식 file 깊은바다 2020-12-22 2320
GLUE: 벤치마크를 통해 BERT 이해하기 깊은바다 2019-11-19 2326
딥러닝으로 욕설 탐지하기 깊은바다 2018-08-06 2347
이루다 같은 챗봇은 어떤 원리로 작동하는 걸까? 깊은바다 2021-04-03 2356
GPT-4의 특징 정리 file 깊은바다 2023-03-15 2363
딥러닝 자연어처리 - RNN에서 BERT까지 [2] 깊은바다 2019-01-07 2366
KoGPT2로 한국어 노래 가사 생성하기 깊은바다 2020-05-21 2408