레플리
글 수 281

GPT-3, InstructGPT, GPT-3.5, ChatGPT의 차이점

조회 수 1289 추천 수 0 2023.04.05 12:43:26


 

https://velog.io/@easter423/GPT-3-vs-GPT-3.5-vs-ChatGPT

 

 

 

GPT-3, InstructGPT, GPT-3.5, ChatGPT가 정확히 어떤 차이가 있는지 모르시는 분들이 많을 텐데요. 여기에 대해 알기쉽게 설명한 글입니다.

 

InstructGPT는 GPT-3에 최초로 RLHF(Reinforcement Learning from Human Feedback)를 적용한 버전입니다. GPT-3는 다음 단어를 맞추는 자기지도학습을 통해서 사전훈련만 했습니다. 여기에 사람이 작성한 데이터로 지도학습을 하고, 추가로 강화학습을 적용한 것이 RLHF입니다. 덕분에 더 성능이 높아지면서 안전한 대답을 할 수 있게 되었습니다.

 

InstructGPT가 업데이트 되면서 이름이 GPT-3.5로 바뀌었습니다. ChatGPT는 GPT-3.5를 대화 형식으로 파인튜닝한 버전입니다.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
인플루언서의 목소리 클론과 GPT-4로 만든 아바타 서비스 - Caryn.ai 깊은바다 2023-05-11 531
딥러닝을 이용한 자연어 처리 깊은바다 2018-08-01 523
딥러닝 학습으로 배우는 대화 인공지능 - 구글 듀플렉스 깊은바다 2018-05-09 515
꼼꼼하고 이해하기 쉬운 ELECTRA 논문 리뷰 깊은바다 2020-05-15 512
검색기반 거대모델인 딥마인드의 RETRO 깊은바다 2021-12-20 510
ChatGPT는 새로운 검색엔진이 될까 file 깊은바다 2022-12-06 506
카카오의 딥러닝 기반 형태소 분석기 깊은바다 2018-11-30 497
ChatGPT의 오픈소스 버전 - ColossalChat file 깊은바다 2023-03-30 497
RAG 아키텍처를 위한 임베딩 모델의 선택에 대해 깊은바다 2023-09-14 496
썰로 푸는 NLP 깊은바다 2018-10-11 494
아카라이브 AI 언어모델 로컬 채널 file 깊은바다 2023-05-23 488
텐서플로에서 사전 훈련된 임베딩을 사용하는 예제 깊은바다 2019-02-02 480
주석을 프로그램으로 변환하는 GPT 모델 깊은바다 2020-06-21 478
아마존, End-to-End 딥러닝 기술을 고객서비스에 챗봇에 적용 깊은바다 2020-03-17 472
GPT-2를 사용한 텍스트 압축 기법 file 깊은바다 2021-02-19 471