레플리
글 수 295


K-001.png

 

K-002.png

 

K-003.png

 

K-004.png

 

K-005.png

 

K-006.png

 

K-007.png

 

 

 

이번 LangCon 2023에서 스캐터랩의 이주홍님이 발표한 내용입니다. 이루다2.0은 생성AI를 적용했습니다. 그래서 이전보다 훨씬 자연스러운 대화를 하는데요. 특히 단조롭지 않고 통통 튀는 대답이 인상적입니다.

 

이번 발표에서 이루다의 페르소나를 어떻게 딥러닝 모델로 구현했는지 대략적인 힌트가 나와있습니다. 제 생각에는 아마 내부 인력(또는 크라우드소싱)으로 이루다 성격에 맞는 대화 문장 데이터를 작성한 것 같습니다. 그것도 상당한 분량으로요.

 

InstructGPT 같이 강화학습 기법을 적용했는지는 잘 모르겠습니다. 강화학습 없이 이루다 전용 문장으로 파인튜닝만 해도 꽤 효과적이라고 봅니다. 그만큼 스캐터랩의 엄청난 노력과 노하우가 들어갔겠지만요.

 

 

 

< 강의자료 >

https://songys.github.io/2023Langcon/data/scatterlab_v2.pdf

 

< 강의영상 >

https://www.youtube.com/watch?v=QAzpAImIrMI

 

List of Articles
제목 글쓴이 날짜 조회 수
LLaMA나 Mistral이 계속 무료로 유지될 수 있을까 깊은바다 2024-03-05 491
GPT-3.5와 클로바X 가격 비교 file 깊은바다 2024-02-25 823
OpenAI, 성능은 높아지고 가격은 싸진 새로운 모델 공개 file 깊은바다 2024-01-26 476
AI 휴대용 기기 R1을 만든 Rabbit의 대표 Jesse Lyu 깊은바다 2024-01-12 436
화면을 보고 스마트폰 앱 사용방법을 배우는 모델 - AppAgent file 깊은바다 2024-01-08 490
LLM의 새로운 기법 - Merge와 DPO file 깊은바다 2024-01-02 1763
업스테이지 SOLAR 10.7B에서 사용한 DUS 모델 확장 방법 file 깊은바다 2023-12-27 727
죽은 아들의 AI 아바타를 만든 중국의 부모 file 깊은바다 2023-12-21 286
Private sLLM - 어떻게 만들고 어떻게 배포할까? file 깊은바다 2023-12-18 775
GPT-4가 내 여자친구보다 나를 더 잘 알까? file 깊은바다 2023-12-12 293
FSM과 생성 에이전트의 차이점 깊은바다 2023-11-22 304
RAG를 사용한 페르소나 챗봇 - ChatHaruhi file 깊은바다 2023-10-17 1224
LLM Multi Agent: Customer Service를 기깔나게 자동화하는 방법 file [1] 깊은바다 2023-10-09 1022
사진을 인식할 수 있는 ChatGPT 멀티모달 버전 공개 file 깊은바다 2023-09-26 349
Poe에 추가된 업스테이지의 LLM, Solar-70b file 깊은바다 2023-09-18 547