레플리
글 수 293

Llama 2의 RLHF 구현 방법

조회 수 845 추천 수 0 2023.07.19 20:31:41
깊은바다 *.68.249.160


https://www.facebook.com/rosinality/posts/6768879263164448

 

 

 

Llama 2의 가장 큰 특징은 역시 RLHF입니다. 이 과정에 대해서 자세히 설명한 글입니다. RLHF의 1단계는 SFT입니다. 사람이 질문에 대한 정답을 작성하고 이를 지도학습으로 배웁니다. 2단계는 사람이 모델이 생성한 답변에 점수를 매겨 reward model을 만듭니다. 3단계는 이를 사용해서 모델이 스스로 최적의 문장을 만드는 방법을 학습합니다. SFT보다 RL이 모델의 성능을 높이는데 더 효과적이라고 합니다. 직접 소설을 쓰는 것보다 좋은 소설을 판별하는게 더 쉬운 것처럼요.

 

이 게시물을
엮인글 :
목록
List of Articles
제목 글쓴이 날짜 조회 수
LLM이 서로 협력하여 프로그램을 개발 - ChatDev file 깊은바다 2023-08-16 935
GPT-4에 CoT 프롬프를 적용하여 2023 수능 국어 1등급 달성 file 깊은바다 2023-08-08 777
LLM의 창발적인 현상인 CoT(Chain of Thouht) 소개 file 깊은바다 2023-07-27 968
RAG 아키텍처의 이해 깊은바다 2023-07-23 1440
GPT-4 세부구조에 대한 정보 유출 깊은바다 2023-07-20 541
Llama 2의 RLHF 구현 방법 깊은바다 2023-07-19 845
한국어 LLM 민주화의 시작 KoAlpaca file 깊은바다 2023-07-17 1265
레포트를 써주는 LLM - GPT Researcher file 깊은바다 2023-07-13 626
LLM 챗봇의 특징 2가지 - RAG와 Function 깊은바다 2023-07-06 1501
RAG(Retrieval-Augmented Generation) - LLM의 환각을 줄이는 방법 file 깊은바다 2023-07-04 10692
Generative AI — 시장 구조, 기회, moat에 대한 몇 가지 생각 깊은바다 2023-06-27 365
ChatGPT plugin와 Autonomous Agent, 그리고 새로운 패러다임의 시작 깊은바다 2023-06-27 266
생성 에이전트의 자율성이 AGI의 핵심 요소 file 깊은바다 2023-06-25 260
WizardLM의 Evol-instruct로 직접 한글 데이터셋을 만든 모델 file 깊은바다 2023-06-19 1558
세콰이어캐피탈에서 전망하는 LLM의 미래 깊은바다 2023-06-19 308
목록
쓰기