레플리
글 수 282

GPT-3, InstructGPT, GPT-3.5, ChatGPT의 차이점

조회 수 1346 추천 수 0 2023.04.05 12:43:26
깊은바다 *.32.218.234


 

https://velog.io/@easter423/GPT-3-vs-GPT-3.5-vs-ChatGPT

 

 

 

GPT-3, InstructGPT, GPT-3.5, ChatGPT가 정확히 어떤 차이가 있는지 모르시는 분들이 많을 텐데요. 여기에 대해 알기쉽게 설명한 글입니다.

 

InstructGPT는 GPT-3에 최초로 RLHF(Reinforcement Learning from Human Feedback)를 적용한 버전입니다. GPT-3는 다음 단어를 맞추는 자기지도학습을 통해서 사전훈련만 했습니다. 여기에 사람이 작성한 데이터로 지도학습을 하고, 추가로 강화학습을 적용한 것이 RLHF입니다. 덕분에 더 성능이 높아지면서 안전한 대답을 할 수 있게 되었습니다.

 

InstructGPT가 업데이트 되면서 이름이 GPT-3.5로 바뀌었습니다. ChatGPT는 GPT-3.5를 대화 형식으로 파인튜닝한 버전입니다.

 

이 게시물을
엮인글 :
목록
List of Articles
제목 글쓴이 날짜sort 조회 수
사진을 인식할 수 있는 ChatGPT 멀티모달 버전 공개 file 깊은바다 2023-09-26 276
Poe에 추가된 업스테이지의 LLM, Solar-70b file 깊은바다 2023-09-18 429
RAG 아키텍처를 위한 임베딩 모델의 선택에 대해 깊은바다 2023-09-14 514
LLM의 미래는 자율행동과 멀티 에이전트 깊은바다 2023-08-30 298
LLM이 서로 협력하여 프로그램을 개발 - ChatDev file 깊은바다 2023-08-16 746
GPT-4에 CoT 프롬프를 적용하여 2023 수능 국어 1등급 달성 file 깊은바다 2023-08-08 619
LLM의 창발적인 현상인 CoT(Chain of Thouht) 소개 file 깊은바다 2023-07-27 703
RAG 아키텍처의 이해 깊은바다 2023-07-23 1321
GPT-4 세부구조에 대한 정보 유출 깊은바다 2023-07-20 456
Llama 2의 RLHF 구현 방법 깊은바다 2023-07-19 711
한국어 LLM 민주화의 시작 KoAlpaca file 깊은바다 2023-07-17 1053
레포트를 써주는 LLM - GPT Researcher file 깊은바다 2023-07-13 395
LLM 챗봇의 특징 2가지 - RAG와 Function 깊은바다 2023-07-06 1191
RAG(Retrieval-Augmented Generation) - LLM의 환각을 줄이는 방법 file 깊은바다 2023-07-04 9596
Generative AI — 시장 구조, 기회, moat에 대한 몇 가지 생각 깊은바다 2023-06-27 301
목록
쓰기