레플리
글 수 204

딥러닝 범용 모델 - Foundation Models

조회 수 1319 추천 수 0 2021.09.06 11:42:22
깊은바다 *.169.14.227


https://arxiv.org/abs/2108.07258

 

 

 

스탠포드대에서 공개한 논문인데 매우 공감이 가네요. 최근 딥러닝이, 특히 자연어처리 분야에서 사전훈련 모델의 중요성이 커지고 있습니다. 대표적으로 BERT와 GPT3가 있습니다. 앞으로 딥러닝이 이렇게 통합되고 범용적인 모델로 발전할 거라고 주장합니다. 이를 위해 'Foundation Models'란 새로운 용어를 제시했습니다. 제 느낌에는 조만간 이 말이 새로운 화두로 떠오르지 않을까 생각됩니다.

 

이 게시물을
엮인글 :
목록
List of Articles
제목 글쓴이 날짜sort 조회 수
신경망에 활성화 함수가 필요한 이유 file 깊은바다 2019-05-14 23727
스냅챕의 성별 변환 필터는 GAN을 사용했을까 깊은바다 2019-05-15 685
객체 검출 딥러닝 모델인 YOLO의 테드 영상 깊은바다 2019-05-22 2819
사진 한 장으로 GAN 영상 생성 깊은바다 2019-05-23 1967
YOLO, Object Detection Network - 알고리즘 설명 file 깊은바다 2019-06-02 25136
딥러닝의 미래는 바로 비지도학습 깊은바다 2019-06-06 6388
목소리와 입모양을 변경할 수 있는 GAN 모델 깊은바다 2019-06-13 1389
Selfie, 비지도학습 이미지 사전훈련 모델 file 깊은바다 2019-06-15 3526
셀프 어텐션만으로 이미지를 인식하는 딥러닝 모델 file 깊은바다 2019-06-26 1868
딥러닝의 기본 깊은바다 2019-07-12 942
얀 르쿤의 자기지도학습 강의 - The Power and Limits Of Deep Learning file 깊은바다 2019-07-13 1901
AutoML을 이용한 Architecture Search 소개 및 NASNet 논문 리뷰 깊은바다 2019-08-18 1207
만화 캐릭터를 자동으로 생성하는 서비스 - Waifu file 깊은바다 2019-08-23 20498
R-CNN 에서 부터 Mask R-CNN 까지 깊은바다 2019-09-03 1409
네이버의 손글씨 자동생성 인공지능 file 깊은바다 2019-09-08 7179
목록
쓰기