레플리
글 수 284


K-001.png

 

https://speakerdeck.com/codertimo/paikon-2019-100eoggeonyi-kakaotog-deiteoro-ddogddoghan-ilsangdaehwa-ingongjineung-mandeulgi

 

 

 

이번 파이콘에서 발표한 핑퐁에 대한 소개입니다. 특히 이전 자료들와 달리 BERT로 만든 멀티턴 리액션을 자세히 다루고 있습니다. 아래 예시처럼 5개의 연속된 문장을 하나의 입력으로 사용합니다. 이때 Turn Embedding을 추가하여 문장들의 순서를 구분합니다.

 

 

 

"우울해|무슨일있어요|크리스마스인데 나만 솔로야|좋은 사람 만날 수 있을거에요|그럴까?"

-> 네 그럴거에요

 

"신난다|무슨일있어요|오늘 날씨가 너무 좋아|한강이라도 가요|그럴까?"

-> 같이 갈래요?

 

 

 

마지막 문장이 '그럴까?'로 같지만 이전 문맥에 따라 다른 답변을 하고 있습니다. 저도 데모를 직접 해봤는데요. 완벽하지는 않지만 어느정도 멀티턴으로 대답을 합니다.

 

사실 이 아이디어 자체는 그리 새로운 것은 아닙니다. 다만 한 문장이 아니라 연속적인 여러 문장을 커버하려면 그만큼 학습 데이터가 엄청나게 필요합니다. 물론 실제 구현하는 것도 어렵겠지만, 알고리즘만 있다고 가능한 모델은 아닙니다^^; 궁금하신 분은 아래 사이트에서 테스트하실 수 있습니다.

 

 

 

< 핑퐁 멀티턴 데모 >

-> https://demo.pingpong.us/multi-turn-reaction/

 

 

List of Articles
제목 글쓴이 날짜 조회 수
RAG를 사용한 페르소나 챗봇 - ChatHaruhi file 깊은바다 2023-10-17 727
LLM Multi Agent: Customer Service를 기깔나게 자동화하는 방법 file [1] 깊은바다 2023-10-09 662
사진을 인식할 수 있는 ChatGPT 멀티모달 버전 공개 file 깊은바다 2023-09-26 281
Poe에 추가된 업스테이지의 LLM, Solar-70b file 깊은바다 2023-09-18 441
RAG 아키텍처를 위한 임베딩 모델의 선택에 대해 깊은바다 2023-09-14 527
LLM의 미래는 자율행동과 멀티 에이전트 깊은바다 2023-08-30 301
LLM이 서로 협력하여 프로그램을 개발 - ChatDev file 깊은바다 2023-08-16 757
GPT-4에 CoT 프롬프를 적용하여 2023 수능 국어 1등급 달성 file 깊은바다 2023-08-08 633
LLM의 창발적인 현상인 CoT(Chain of Thouht) 소개 file 깊은바다 2023-07-27 716
RAG 아키텍처의 이해 깊은바다 2023-07-23 1338
GPT-4 세부구조에 대한 정보 유출 깊은바다 2023-07-20 460
Llama 2의 RLHF 구현 방법 깊은바다 2023-07-19 732
한국어 LLM 민주화의 시작 KoAlpaca file 깊은바다 2023-07-17 1068
레포트를 써주는 LLM - GPT Researcher file 깊은바다 2023-07-13 445
LLM 챗봇의 특징 2가지 - RAG와 Function 깊은바다 2023-07-06 1227