레플리
글 수 283


K-001.png

 

https://speakerdeck.com/codertimo/paikon-2019-100eoggeonyi-kakaotog-deiteoro-ddogddoghan-ilsangdaehwa-ingongjineung-mandeulgi

 

 

 

이번 파이콘에서 발표한 핑퐁에 대한 소개입니다. 특히 이전 자료들와 달리 BERT로 만든 멀티턴 리액션을 자세히 다루고 있습니다. 아래 예시처럼 5개의 연속된 문장을 하나의 입력으로 사용합니다. 이때 Turn Embedding을 추가하여 문장들의 순서를 구분합니다.

 

 

 

"우울해|무슨일있어요|크리스마스인데 나만 솔로야|좋은 사람 만날 수 있을거에요|그럴까?"

-> 네 그럴거에요

 

"신난다|무슨일있어요|오늘 날씨가 너무 좋아|한강이라도 가요|그럴까?"

-> 같이 갈래요?

 

 

 

마지막 문장이 '그럴까?'로 같지만 이전 문맥에 따라 다른 답변을 하고 있습니다. 저도 데모를 직접 해봤는데요. 완벽하지는 않지만 어느정도 멀티턴으로 대답을 합니다.

 

사실 이 아이디어 자체는 그리 새로운 것은 아닙니다. 다만 한 문장이 아니라 연속적인 여러 문장을 커버하려면 그만큼 학습 데이터가 엄청나게 필요합니다. 물론 실제 구현하는 것도 어렵겠지만, 알고리즘만 있다고 가능한 모델은 아닙니다^^; 궁금하신 분은 아래 사이트에서 테스트하실 수 있습니다.

 

 

 

< 핑퐁 멀티턴 데모 >

-> https://demo.pingpong.us/multi-turn-reaction/

 

 

List of Articles
제목 글쓴이 날짜 조회 수sort
부적절한 문장을 판단해주는 딥러닝 모델 - Ask Delphi file 깊은바다 2021-11-08 399
GPT2 텍스트 어드벤처 게임, AI Dungeon 앱 출시 깊은바다 2019-12-23 404
ChatGPT에게 챗봇을 만들어보라고 해봤습니다 file 깊은바다 2022-12-26 413
Together가 공개한 오픈소스 LLM - OpenChatKit 깊은바다 2023-03-12 428
레포트를 써주는 LLM - GPT Researcher file 깊은바다 2023-07-13 429
텍스트 스타일을 바꾸는 딥러닝 기술 깊은바다 2021-06-01 436
Poe에 추가된 업스테이지의 LLM, Solar-70b file 깊은바다 2023-09-18 440
ChatGPT API 정식 공개 file 깊은바다 2023-03-02 455
MS의 딥러닝 대화 모델 - DialoGPT file 깊은바다 2020-04-24 456
GPT-4 세부구조에 대한 정보 유출 깊은바다 2023-07-20 459
딥러닝 상식추론 모델- COMET file 깊은바다 2020-05-04 465
업스테이지 SOLAR 10.7B에서 사용한 DUS 모델 확장 방법 file 깊은바다 2023-12-27 468
GPT2로 만든 가상의 SNS - Botnet 깊은바다 2020-02-14 469
아마존, End-to-End 딥러닝 기술을 고객서비스에 챗봇에 적용 깊은바다 2020-03-17 472
GPT-2를 사용한 텍스트 압축 기법 file 깊은바다 2021-02-19 473