레플리
글 수 281

GPT2를 Colab에서 테스트할 수 있는 코드

조회 수 1771 추천 수 0 2019.05.21 15:05:30


https://colab.research.google.com/github/ilopezfr/gpt-2/blob/master/gpt-2-playground_.ipynb?fbclid=IwAR21GZFZ2gWHFwZmWss5osQpxDRuZOQsx_RXdvSbBWbyTYBogYru9bRB6qY

 

 

 

GPT2는 최근 OpenAI에서 발표한 딥러닝 모델입니다. 기본적으로 언어 모델인데, 입력한 문장에서 바로 다음 글자 또는 단어를 예측합니다. 그래서 계속 연속된 글을 작성할 수 있습니다.

 

예상보다 너무 성능이 좋아서 페이크 뉴스 같은 곳에 잘못 사용될 우려가 있을 정도입니다. 그래서 정확한 동작 방식은 공개하지 않았습니다. 현재도 117M와 345M만 사용할 수 있고, 762M와 1542M 버전은 릴리즈하지 않았습니다.

 

이런 GPT2를 코랩에서 간단하게 설치해서 돌려볼 수 있는 코드입니다. Unconditional sample generation은 랜덤하게 문장을 생성합니다. 반대로 Conditional sample generation은 인터랙티브하게 동작합니다. 파일을 실행하면 'Model prompt'라고 뜨는데, 여기서 원하는 문장을 입력합니다. 그러면 그 문장에 이어지는 샘플을 출력해서 보여줍니다.

 

117M 버전뿐만 아니라 얼마 전에 공개된 345M 버전도 테스트해볼 수 있습니다. 저도 해봤는데 345M 모델도 상당히 높은 품질의 텍스트를 만들어냅니다. 1542M 모델은 이거보다 5배 성능이 더 좋을지 궁금하네요.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
Pi를 만든 Inflection AI, MS로 대거 이직한 이유 깊은바다 2024-03-25 44
MS의 CTO인 Kevin Scott과 OpenAI와의 협업 깊은바다 2023-03-17 81
ChatGPT 2달만에 누적 사용자 1억명 돌파 깊은바다 2023-02-03 88
ChatGPT iOS 버전 출시 file 깊은바다 2023-05-19 97
ChatGPT가 Stack Overflow를 대체할까 깊은바다 2023-02-16 104
구글의 초거대AI LaMDA, 과연 의식을 가지고 있을까 깊은바다 2023-02-17 106
MS의 목적은 ChatGPT로 구글이 장악한 검색시장 자체를 무너뜨리는 것 깊은바다 2023-02-11 119
ChatGPT와 대화 인공지능의 미래 깊은바다 2023-02-17 123
와튼스쿨 에단 몰릭 교수의 Bing 사용 후기 깊은바다 2023-02-19 134
LLaMA나 Mistral이 계속 무료로 유지될 수 있을까 깊은바다 2024-03-05 143
딥마인드의 데미스 하사비스, AGI는 신중한 접근 필요 깊은바다 2023-03-22 146
구글, ChatGPT의 라이벌인 Bard 공개 file 깊은바다 2023-02-07 147
GPT-4가 내 여자친구보다 나를 더 잘 알까? file 깊은바다 2023-12-12 147
MS, Bing과 Edge에 ChatGPT 통합 file 깊은바다 2023-02-08 153
ChatGPT의 3가지 핵심 특징 깊은바다 2023-02-16 156