레플리
글 수 203

딥러닝 범용 모델 - Foundation Models

조회 수 1318 추천 수 0 2021.09.06 11:42:22
깊은바다 *.169.14.227


https://arxiv.org/abs/2108.07258

 

 

 

스탠포드대에서 공개한 논문인데 매우 공감이 가네요. 최근 딥러닝이, 특히 자연어처리 분야에서 사전훈련 모델의 중요성이 커지고 있습니다. 대표적으로 BERT와 GPT3가 있습니다. 앞으로 딥러닝이 이렇게 통합되고 범용적인 모델로 발전할 거라고 주장합니다. 이를 위해 'Foundation Models'란 새로운 용어를 제시했습니다. 제 느낌에는 조만간 이 말이 새로운 화두로 떠오르지 않을까 생각됩니다.

 

이 게시물을
엮인글 :
목록
List of Articles
제목 글쓴이 날짜 조회 수sort
Transformer와 동급의 성능에 속도는 훨씬 빨라진 MLP-Mixer file 깊은바다 2021-06-11 1439
R-CNN 에서 부터 Mask R-CNN 까지 깊은바다 2019-09-03 1407
딥페이크로 일론 머스크인 척 친구들을 속이는 영상 깊은바다 2020-04-19 1389
목소리와 입모양을 변경할 수 있는 GAN 모델 깊은바다 2019-06-13 1386
텐서플로우에서 소프트맥스로 숫자 인식 구현 file 깊은바다 2017-03-09 1373
텐서플로우로 선형 회귀 구현 file 깊은바다 2017-03-09 1360
오픈소스로 공개된 Text-to-Image 모델 - Stable Diffusion 깊은바다 2022-09-07 1350
사진을 디즈니 만화로 바뀌주는 딥러닝 모델 - Toonify 깊은바다 2020-09-21 1341
딥러닝 범용 모델 - Foundation Models 깊은바다 2021-09-06 1318
아이폰에서 실행하는 Stable Diffusion 앱 - Draw Things 깊은바다 2022-11-11 1311
RNN(Recurrent Neural Network) 튜토리얼 깊은바다 2017-07-22 1303
하나의 얼굴 이미지로 다양하게 변형된 얼굴을 만드는 StarGAN [1] NeuroWhAI 2017-12-30 1301
딥러닝 GAN으로 생성한 고해상도 사진 [2] 깊은바다 2017-06-08 1290
전문가 수준의 사진을 생성하는 NVIDIA의 PoE-GAN 깊은바다 2022-02-16 1280
최신 딥러닝 모델들의 학습 비용 깊은바다 2019-12-12 1266
목록
쓰기