글 수 124

GPT2를 Colab에서 테스트할 수 있는 코드

조회 수 617 추천 수 0 2019.05.21 15:05:30


https://colab.research.google.com/github/ilopezfr/gpt-2/blob/master/gpt-2-playground_.ipynb?fbclid=IwAR21GZFZ2gWHFwZmWss5osQpxDRuZOQsx_RXdvSbBWbyTYBogYru9bRB6qY

 

 

 

GPT2는 최근 OpenAI에서 발표한 딥러닝 모델입니다. 기본적으로 언어 모델인데, 입력한 문장에서 바로 다음 글자 또는 단어를 예측합니다. 그래서 계속 연속된 글을 작성할 수 있습니다.

 

예상보다 너무 성능이 좋아서 페이크 뉴스 같은 곳에 잘못 사용될 우려가 있을 정도입니다. 그래서 정확한 동작 방식은 공개하지 않았습니다. 현재도 117M와 345M만 사용할 수 있고, 762M와 1542M 버전은 릴리즈하지 않았습니다.

 

이런 GPT2를 코랩에서 간단하게 설치해서 돌려볼 수 있는 코드입니다. Unconditional sample generation은 랜덤하게 문장을 생성합니다. 반대로 Conditional sample generation은 인터랙티브하게 동작합니다. 파일을 실행하면 'Model prompt'라고 뜨는데, 여기서 원하는 문장을 입력합니다. 그러면 그 문장에 이어지는 샘플을 출력해서 보여줍니다.

 

117M 버전뿐만 아니라 얼마 전에 공개된 345M 버전도 테스트해볼 수 있습니다. 저도 해봤는데 345M 모델도 상당히 높은 품질의 텍스트를 만들어냅니다. 1542M 모델은 이거보다 5배 성능이 더 좋을지 궁금하네요.

엮인글 :
List of Articles
제목 글쓴이 날짜sort 조회 수
오픈소스 한국어 딥러닝 챗봇 - Kochat 깊은바다 2020-07-03 12
KoGPT2를 파인튜닝하여 만든 챗봇 깊은바다 2020-06-23 99
주석을 프로그램으로 변환하는 GPT 모델 깊은바다 2020-06-21 90
소설을 생성하는 NarrativeKoGPT2 file 깊은바다 2020-06-19 88
GPT3 유료화 기능 소개 영상 깊은바다 2020-06-15 87
GPT2를 테스트해볼 수 있는 사이트 - Talk to Transformer file 깊은바다 2020-06-05 103
퓨샷(few-shot) 러닝에 최적화된 GPT3 모델 file 깊은바다 2020-05-30 178
KoGPT2로 한국어 노래 가사 생성하기 깊은바다 2020-05-21 183
인라이플의 한글 BERT 대형모델 깊은바다 2020-05-18 258
꼼꼼하고 이해하기 쉬운 ELECTRA 논문 리뷰 깊은바다 2020-05-15 137
Meme 자동 생성기 깊은바다 2020-05-11 145
딥러닝 상식추론 모델- COMET file 깊은바다 2020-05-04 136
Meena를 능가하는 페이스북의 일상대화 딥러닝 모델 - Blender file 깊은바다 2020-05-01 179
MS의 딥러닝 대화 모델 - DialoGPT file 깊은바다 2020-04-24 135
Dialog-BERT: 100억건의 메신저대화로 일상대화 인공지능 서비스하기 file 깊은바다 2020-04-19 305