레플리
글 수 295


open sourcing language models concept

 

https://www.technologyreview.com/2022/05/03/1051691/meta-ai-large-language-model-gpt3-ethics-huggingface-transparency/

 

 

 

놀라운 사건이 일어났습니다. 메타(구 페이스북)가 OPT(Open Pretrained Transformer)라는 모델을 무료로 공개한다고 결정했습니다. 무려 GPT-3와 동일한 175B의 파라미터를 가지고 있습니다. 지금까지는 EleutherAI가 발표한 20B의 GPT-NeoX가 가장 큰 오픈 모델이었습니다. 또한 OPT 개발과정이 자세히 적혀있는 100페이지 분량의 logbook도 함께 공개한다고 합니다. 이를 통해 초거대모델 분야에 큰 파장을 가져올 것 같습니다.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
GPT가 스스로 계획을 세워서 실행한다면 - AutoGPT와 LangChain file 깊은바다 2023-04-18 1614
ChatGPT 플러그인으로 만든 TODO 예제 file 깊은바다 2023-04-18 247
한국어 초거대AI가 필요한 이유 - 토크나이저와 한국어 콘텐츠 깊은바다 2023-04-17 336
심즈와 비슷한 가상세계를 ChatGPT로 구현 - 생성 에이전트(Generative Agents) file 깊은바다 2023-04-14 1976
ChatGPT 플러그인 전략 및 생태계 변화 전망 file 깊은바다 2023-04-09 1953
ChatGPT 원티드 플러그인 사용 화면 file 깊은바다 2023-04-07 338
GPT-3, InstructGPT, GPT-3.5, ChatGPT의 차이점 깊은바다 2023-04-05 1721
ChatGPT의 오픈소스 버전 - ColossalChat file 깊은바다 2023-03-30 605
ChatGPT 플러그인 구현 방법 - manifest와 OpenAPI Spec file 깊은바다 2023-03-28 783
ChatGPT를 앱스토어 같은 플랫폼으로 확장 - ChatGPT 플러그인 file 깊은바다 2023-03-24 447
딥마인드의 데미스 하사비스, AGI는 신중한 접근 필요 깊은바다 2023-03-22 221
GPT-4 수능 국어영역에서 3등급(상위 17%) 달성 깊은바다 2023-03-21 399
한글전용 초거대AI가 필요한 이유 [2] 깊은바다 2023-03-18 729
MS의 CTO인 Kevin Scott과 OpenAI와의 협업 깊은바다 2023-03-17 154
GPT-4의 특징 정리 file 깊은바다 2023-03-15 1605