레플리
글 수 281

GPT2를 Colab에서 테스트할 수 있는 코드

조회 수 1771 추천 수 0 2019.05.21 15:05:30


https://colab.research.google.com/github/ilopezfr/gpt-2/blob/master/gpt-2-playground_.ipynb?fbclid=IwAR21GZFZ2gWHFwZmWss5osQpxDRuZOQsx_RXdvSbBWbyTYBogYru9bRB6qY

 

 

 

GPT2는 최근 OpenAI에서 발표한 딥러닝 모델입니다. 기본적으로 언어 모델인데, 입력한 문장에서 바로 다음 글자 또는 단어를 예측합니다. 그래서 계속 연속된 글을 작성할 수 있습니다.

 

예상보다 너무 성능이 좋아서 페이크 뉴스 같은 곳에 잘못 사용될 우려가 있을 정도입니다. 그래서 정확한 동작 방식은 공개하지 않았습니다. 현재도 117M와 345M만 사용할 수 있고, 762M와 1542M 버전은 릴리즈하지 않았습니다.

 

이런 GPT2를 코랩에서 간단하게 설치해서 돌려볼 수 있는 코드입니다. Unconditional sample generation은 랜덤하게 문장을 생성합니다. 반대로 Conditional sample generation은 인터랙티브하게 동작합니다. 파일을 실행하면 'Model prompt'라고 뜨는데, 여기서 원하는 문장을 입력합니다. 그러면 그 문장에 이어지는 샘플을 출력해서 보여줍니다.

 

117M 버전뿐만 아니라 얼마 전에 공개된 345M 버전도 테스트해볼 수 있습니다. 저도 해봤는데 345M 모델도 상당히 높은 품질의 텍스트를 만들어냅니다. 1542M 모델은 이거보다 5배 성능이 더 좋을지 궁금하네요.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
Poe에 추가된 업스테이지의 LLM, Solar-70b file 깊은바다 2023-09-18 414
RAG 아키텍처를 위한 임베딩 모델의 선택에 대해 깊은바다 2023-09-14 496
LLM의 미래는 자율행동과 멀티 에이전트 깊은바다 2023-08-30 291
LLM이 서로 협력하여 프로그램을 개발 - ChatDev file 깊은바다 2023-08-16 721
GPT-4에 CoT 프롬프를 적용하여 2023 수능 국어 1등급 달성 file 깊은바다 2023-08-08 592
LLM의 창발적인 현상인 CoT(Chain of Thouht) 소개 file 깊은바다 2023-07-27 670
RAG 아키텍처의 이해 깊은바다 2023-07-23 1292
GPT-4 세부구조에 대한 정보 유출 깊은바다 2023-07-20 452
Llama 2의 RLHF 구현 방법 깊은바다 2023-07-19 693
한국어 LLM 민주화의 시작 KoAlpaca file 깊은바다 2023-07-17 1016
레포트를 써주는 LLM - GPT Researcher file 깊은바다 2023-07-13 353
LLM 챗봇의 특징 2가지 - RAG와 Function 깊은바다 2023-07-06 1147
RAG(Retrieval-Augmented Generation) - LLM의 환각을 줄이는 방법 file 깊은바다 2023-07-04 9258
Generative AI — 시장 구조, 기회, moat에 대한 몇 가지 생각 깊은바다 2023-06-27 298
ChatGPT plugin와 Autonomous Agent, 그리고 새로운 패러다임의 시작 깊은바다 2023-06-27 203