레플리
글 수 281


K-001.png

 

K-002.png

 

K-003.png

 

K-004.png

 

K-005.png

 

K-006.png

 

K-007.png

 

 

 

이번 LangCon 2023에서 스캐터랩의 이주홍님이 발표한 내용입니다. 이루다2.0은 생성AI를 적용했습니다. 그래서 이전보다 훨씬 자연스러운 대화를 하는데요. 특히 단조롭지 않고 통통 튀는 대답이 인상적입니다.

 

이번 발표에서 이루다의 페르소나를 어떻게 딥러닝 모델로 구현했는지 대략적인 힌트가 나와있습니다. 제 생각에는 아마 내부 인력(또는 크라우드소싱)으로 이루다 성격에 맞는 대화 문장 데이터를 작성한 것 같습니다. 그것도 상당한 분량으로요.

 

InstructGPT 같이 강화학습 기법을 적용했는지는 잘 모르겠습니다. 강화학습 없이 이루다 전용 문장으로 파인튜닝만 해도 꽤 효과적이라고 봅니다. 그만큼 스캐터랩의 엄청난 노력과 노하우가 들어갔겠지만요.

 

 

 

< 강의자료 >

https://songys.github.io/2023Langcon/data/scatterlab_v2.pdf

 

< 강의영상 >

https://www.youtube.com/watch?v=QAzpAImIrMI

 

List of Articles
제목 글쓴이 날짜sort 조회 수
생성 에이전트의 자율성이 AGI의 핵심 요소 file 깊은바다 2023-06-25 163
WizardLM의 Evol-instruct로 직접 한글 데이터셋을 만든 모델 file 깊은바다 2023-06-19 1058
세콰이어캐피탈에서 전망하는 LLM의 미래 깊은바다 2023-06-19 246
지금 생성AI는 과도기일 뿐 file 깊은바다 2023-06-19 353
카카오브레인 김일두 대표님의 글 - 생성AI가 비즈니스를 어떻게 혁신할까 깊은바다 2023-06-15 215
ChatGPT API에서도 플러그인과 동일한 기능을 - ChatGPT Function file 깊은바다 2023-06-14 328
내가 AI를 직접 가르치고 키우는 반려지능의 시대 file 깊은바다 2023-05-31 884
LLM의 시대에도 자연어처리를 배워야할까 깊은바다 2023-05-29 311
아카라이브 AI 언어모델 로컬 채널 file 깊은바다 2023-05-23 488
Scale entanglement - LLM 연대기 깊은바다 2023-05-21 205
ChatGPT iOS 버전 출시 file 깊은바다 2023-05-19 97
GPT-3.5와 하이퍼클로바의 한국어 대결 file 깊은바다 2023-05-12 316
인플루언서의 목소리 클론과 GPT-4로 만든 아바타 서비스 - Caryn.ai 깊은바다 2023-05-11 533
오픈소스 LLM이 ChatGPT를 대체할 수 있을 깊은바다 2023-05-05 292
AutoGPT 사용기 - 다른 에이전트 생성 능력 file 깊은바다 2023-04-23 327