레플리
글 수 292

GPT-3, InstructGPT, GPT-3.5, ChatGPT의 차이점

조회 수 1693 추천 수 0 2023.04.05 12:43:26


 

https://velog.io/@easter423/GPT-3-vs-GPT-3.5-vs-ChatGPT

 

 

 

GPT-3, InstructGPT, GPT-3.5, ChatGPT가 정확히 어떤 차이가 있는지 모르시는 분들이 많을 텐데요. 여기에 대해 알기쉽게 설명한 글입니다.

 

InstructGPT는 GPT-3에 최초로 RLHF(Reinforcement Learning from Human Feedback)를 적용한 버전입니다. GPT-3는 다음 단어를 맞추는 자기지도학습을 통해서 사전훈련만 했습니다. 여기에 사람이 작성한 데이터로 지도학습을 하고, 추가로 강화학습을 적용한 것이 RLHF입니다. 덕분에 더 성능이 높아지면서 안전한 대답을 할 수 있게 되었습니다.

 

InstructGPT가 업데이트 되면서 이름이 GPT-3.5로 바뀌었습니다. ChatGPT는 GPT-3.5를 대화 형식으로 파인튜닝한 버전입니다.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
심즈와 비슷한 가상세계를 ChatGPT로 구현 - 생성 에이전트(Generative Agents) file 깊은바다 2023-04-14 1956
ChatGPT 플러그인 전략 및 생태계 변화 전망 file 깊은바다 2023-04-09 1937
ChatGPT 원티드 플러그인 사용 화면 file 깊은바다 2023-04-07 332
GPT-3, InstructGPT, GPT-3.5, ChatGPT의 차이점 깊은바다 2023-04-05 1693
ChatGPT의 오픈소스 버전 - ColossalChat file 깊은바다 2023-03-30 590
ChatGPT 플러그인 구현 방법 - manifest와 OpenAPI Spec file 깊은바다 2023-03-28 764
ChatGPT를 앱스토어 같은 플랫폼으로 확장 - ChatGPT 플러그인 file 깊은바다 2023-03-24 436
딥마인드의 데미스 하사비스, AGI는 신중한 접근 필요 깊은바다 2023-03-22 211
GPT-4 수능 국어영역에서 3등급(상위 17%) 달성 깊은바다 2023-03-21 386
한글전용 초거대AI가 필요한 이유 [2] 깊은바다 2023-03-18 722
MS의 CTO인 Kevin Scott과 OpenAI와의 협업 깊은바다 2023-03-17 147
GPT-4의 특징 정리 file 깊은바다 2023-03-15 1589
7B의 Alpaca가 175B의 GPT-3.5와 동급의 성능을 보임 file 깊은바다 2023-03-14 1115
Together가 공개한 오픈소스 LLM - OpenChatKit 깊은바다 2023-03-12 498
ChatGPT 영어회화 깊은바다 2023-03-09 274