레플리
글 수 284

메타, GPT-3와 동급인 175B의 초거대모델 무료 공개

조회 수 1191 추천 수 0 2022.05.04 13:08:42
깊은바다 *.68.249.160


open sourcing language models concept

 

https://www.technologyreview.com/2022/05/03/1051691/meta-ai-large-language-model-gpt3-ethics-huggingface-transparency/

 

 

 

놀라운 사건이 일어났습니다. 메타(구 페이스북)가 OPT(Open Pretrained Transformer)라는 모델을 무료로 공개한다고 결정했습니다. 무려 GPT-3와 동일한 175B의 파라미터를 가지고 있습니다. 지금까지는 EleutherAI가 발표한 20B의 GPT-NeoX가 가장 큰 오픈 모델이었습니다. 또한 OPT 개발과정이 자세히 적혀있는 100페이지 분량의 logbook도 함께 공개한다고 합니다. 이를 통해 초거대모델 분야에 큰 파장을 가져올 것 같습니다.

 

이 게시물을
엮인글 :
목록
List of Articles
제목 글쓴이 날짜 조회 수sort
네이버의 초거대모델인 하이퍼클로바 가격 공개 깊은바다 2022-08-24 1861
KoGPT2로 한국어 노래 가사 생성하기 깊은바다 2020-05-21 1856
ChatGPT 한글 자동번역 크롬 확장프로그램 깊은바다 2023-01-17 1854
ChatGPT 플러그인 전략 및 생태계 변화 전망 file 깊은바다 2023-04-09 1827
GPT2를 Colab에서 테스트할 수 있는 코드 깊은바다 2019-05-21 1783
구글의 일상대화 딥러닝 모델 - Meena file 깊은바다 2020-01-30 1771
딥러닝 자연어처리 - RNN에서 BERT까지 [2] 깊은바다 2019-01-07 1756
GPT3 유료화 가격 공개 file 깊은바다 2020-09-04 1748
GLUE: 벤치마크를 통해 BERT 이해하기 깊은바다 2019-11-19 1737
100억건의 카카오톡 데이터로 
똑똑한 일상대화 인공지능 만들기 - 핑퐁 멀티턴 file 깊은바다 2019-08-20 1732
이루다 같은 챗봇은 어떤 원리로 작동하는 걸까? 깊은바다 2021-04-03 1694
심즈와 비슷한 가상세계를 ChatGPT로 구현 - 생성 에이전트(Generative Agents) file 깊은바다 2023-04-14 1681
딥러닝을 사용한 감성분석기 개발 깊은바다 2018-02-22 1658
목적지향 대화 학습 - Learning End-to-End Goal-Oriented Dialog file 깊은바다 2019-02-02 1597
문장의 유사도를 파악하는 구글의 universal-sentence-encoder file 깊은바다 2018-08-29 1596
목록
쓰기