레플리
글 수 283


K-001.png

 

K-002.png

 

K-003.png

 

K-004.png

 

K-005.png

 

K-006.png

 

K-007.png

 

 

 

이번 LangCon 2023에서 스캐터랩의 이주홍님이 발표한 내용입니다. 이루다2.0은 생성AI를 적용했습니다. 그래서 이전보다 훨씬 자연스러운 대화를 하는데요. 특히 단조롭지 않고 통통 튀는 대답이 인상적입니다.

 

이번 발표에서 이루다의 페르소나를 어떻게 딥러닝 모델로 구현했는지 대략적인 힌트가 나와있습니다. 제 생각에는 아마 내부 인력(또는 크라우드소싱)으로 이루다 성격에 맞는 대화 문장 데이터를 작성한 것 같습니다. 그것도 상당한 분량으로요.

 

InstructGPT 같이 강화학습 기법을 적용했는지는 잘 모르겠습니다. 강화학습 없이 이루다 전용 문장으로 파인튜닝만 해도 꽤 효과적이라고 봅니다. 그만큼 스캐터랩의 엄청난 노력과 노하우가 들어갔겠지만요.

 

 

 

< 강의자료 >

https://songys.github.io/2023Langcon/data/scatterlab_v2.pdf

 

< 강의영상 >

https://www.youtube.com/watch?v=QAzpAImIrMI

 

List of Articles
제목 글쓴이 날짜sort 조회 수
구글 듀플렉스에 대한 소개 깊은바다 2018-07-30 183
딥러닝을 이용한 자연어 처리 깊은바다 2018-08-01 523
사람의 말로 표현하는 페이지(PAIGE) - 자연어생성 깊은바다 2018-08-04 660
딥러닝으로 욕설 탐지하기 깊은바다 2018-08-06 1881
딥러닝을 이용한 지역 컨텍스트 검색 깊은바다 2018-08-10 222
추천시스템이 word2vec을 만났을때 깊은바다 2018-08-22 1032
문장의 유사도를 파악하는 구글의 universal-sentence-encoder file 깊은바다 2018-08-29 1594
스탠포드 자연어처리 강의 - The Limits and Future of NLP 깊은바다 2018-08-30 395
소설 쓰는 딥러닝 file 깊은바다 2018-08-31 1388
포자랩스의 작사/작곡 인공지능 file 깊은바다 2018-08-31 641
네이버 영화 리뷰 감정 분석 깊은바다 2018-09-07 3291
딥러닝과 자연어처리의 집중 메커니즘 깊은바다 2018-09-08 1019
딥러닝으로 상식 구축 - Event2Mind 깊은바다 2018-09-14 373
문장을 사진으로 변환하는 StackGAN [1] 깊은바다 2018-09-17 1435
페르소나를 가진 대화 학습 - Personalizing Dialogue Agents file 깊은바다 2018-09-19 618