레플리
글 수 288


open sourcing language models concept

 

https://www.technologyreview.com/2022/05/03/1051691/meta-ai-large-language-model-gpt3-ethics-huggingface-transparency/

 

 

 

놀라운 사건이 일어났습니다. 메타(구 페이스북)가 OPT(Open Pretrained Transformer)라는 모델을 무료로 공개한다고 결정했습니다. 무려 GPT-3와 동일한 175B의 파라미터를 가지고 있습니다. 지금까지는 EleutherAI가 발표한 20B의 GPT-NeoX가 가장 큰 오픈 모델이었습니다. 또한 OPT 개발과정이 자세히 적혀있는 100페이지 분량의 logbook도 함께 공개한다고 합니다. 이를 통해 초거대모델 분야에 큰 파장을 가져올 것 같습니다.

 

엮인글 :
List of Articles
제목 글쓴이 날짜sort 조회 수
아카라이브 AI 언어모델 로컬 채널 file 깊은바다 2023-05-23 569
Scale entanglement - LLM 연대기 깊은바다 2023-05-21 208
ChatGPT iOS 버전 출시 file 깊은바다 2023-05-19 99
GPT-3.5와 하이퍼클로바의 한국어 대결 file 깊은바다 2023-05-12 319
인플루언서의 목소리 클론과 GPT-4로 만든 아바타 서비스 - Caryn.ai 깊은바다 2023-05-11 584
오픈소스 LLM이 ChatGPT를 대체할 수 있을 깊은바다 2023-05-05 296
AutoGPT 사용기 - 다른 에이전트 생성 능력 file 깊은바다 2023-04-23 333
생성 에이전트를 ChatGPT 프롬프트만으로 구현 file 깊은바다 2023-04-20 269
GPT가 스스로 계획을 세워서 실행한다면 - AutoGPT와 LangChain file 깊은바다 2023-04-18 1489
ChatGPT 플러그인으로 만든 TODO 예제 file 깊은바다 2023-04-18 201
한국어 초거대AI가 필요한 이유 - 토크나이저와 한국어 콘텐츠 깊은바다 2023-04-17 273
심즈와 비슷한 가상세계를 ChatGPT로 구현 - 생성 에이전트(Generative Agents) file 깊은바다 2023-04-14 1744
ChatGPT 플러그인 전략 및 생태계 변화 전망 file 깊은바다 2023-04-09 1833
ChatGPT 원티드 플러그인 사용 화면 file 깊은바다 2023-04-07 279
GPT-3, InstructGPT, GPT-3.5, ChatGPT의 차이점 깊은바다 2023-04-05 1467