레플리
글 수 203

딥러닝 범용 모델 - Foundation Models

조회 수 1317 추천 수 0 2021.09.06 11:42:22
깊은바다 *.169.14.227


https://arxiv.org/abs/2108.07258

 

 

 

스탠포드대에서 공개한 논문인데 매우 공감이 가네요. 최근 딥러닝이, 특히 자연어처리 분야에서 사전훈련 모델의 중요성이 커지고 있습니다. 대표적으로 BERT와 GPT3가 있습니다. 앞으로 딥러닝이 이렇게 통합되고 범용적인 모델로 발전할 거라고 주장합니다. 이를 위해 'Foundation Models'란 새로운 용어를 제시했습니다. 제 느낌에는 조만간 이 말이 새로운 화두로 떠오르지 않을까 생각됩니다.

 

이 게시물을
엮인글 :
목록
List of Articles
제목 글쓴이 날짜 조회 수
인공지능 과학자의 꿈, 범용 AI는 가능할까 깊은바다 2021-10-15 865
딥러닝 범용 모델 - Foundation Models 깊은바다 2021-09-06 1317
소프트웨어 개발 경험이 먼저다 - 딥러닝 역시 S/W 기술의 하나일 뿐 깊은바다 2021-07-14 913
제프리 힌튼, 얀 르쿤, 요슈아 벤지오가 말하는 딥러닝의 미래 깊은바다 2021-07-08 874
OpenAI의 CLIP을 사용해서 자연어로 유튜브 영상 검색 깊은바다 2021-07-05 1089
스케치를 사진으로 바꾸어주는 프로그램 - NVIDIA CANVAS 깊은바다 2021-06-25 637
한 단어만으로 텍스트 스타일을 바꿔주는 딥러닝 모델 - TextStyleBrush 깊은바다 2021-06-24 651
GameGAN으로 직접 화면을 생성하는 GTA5 게임 깊은바다 2021-06-20 634
Transformer와 동급의 성능에 속도는 훨씬 빨라진 MLP-Mixer file 깊은바다 2021-06-11 1434
GAN으로 얼굴사진을 생성하는 사이트 - Face Generator file 깊은바다 2021-04-28 2788
말로 설명하여 이미지를 변형하는 GAN - StyleCLIP file 깊은바다 2021-04-04 1816
GPT-3로 광고문구를 만드는 서비스 - Copy.ai 깊은바다 2021-03-22 647
딥러닝의 창시자인 제프리 힌튼이 구글에 합류하게 된 스토리 깊은바다 2021-03-18 418
뉴런 하나로 특정 개념을 표현한다, CLIP 모델에서 개념 뉴런을 발견 file 깊은바다 2021-03-12 573
스냅챕의 디즈니 필터 깊은바다 2021-03-12 528
목록
쓰기