글 수 139


 

 

 

처음 딥러닝이 나왔을 때는 신경망의 가중치를 초기화하고 바닥부터 배우는 방법이었습니다. 그러다 전이학습이 등장했습니다. 가장 대표적으로는 파인튜닝(fine-tuning)이 있습니다. 미리 대량의 데이터로 사전훈련을 하고, 이 모델을 새로운 데이터에 맞게 다시 학습합니다. 이렇게 하면 적은 데이터로도 더 빠르고 정확하게 배울 수 있습니다.

 

하지만 파인튜닝 역시 상당히 많은 데이터가 필요합니다. 새로운 도메인에 적용하기 위해서는, 항상 라벨을 다는 시간과 노력이 듭니다. 반면에 사람은 몇 개의 예제만 주어져도 충분합니다. 퓨삿러닝(few-shot learning)은 이와 비슷하게 동작하는 학습방법입니다.

 

일반적인 분류 모델은 각 클래스마다 데이터와 라벨이 주어집니다. 학습이 끝나면 새로운 데이터가 어떤 클래스인지 맞출 수 있습니다. 퓨샷러닝은 방식이 약간 다릅니다. N-way K-shot 분류를 사용합니다. N은 클래스의 개수, K는 각 클래스 마다 예제의 개수입니다. 보통 메타러닝이라는 기법을 적용합니다.

 

예를 들어, 고양이 사진 3개와 강아지 사진 3개를 support set으로 준비합니다. query set에는 다른 고양이, 강아지 사진을 넣습니다. 그다음 각 query set이 어떤 support set에 속하는지 배웁니다. 이렇게 하면 새로운 사진이 기존 사진들과 얼마나 유사한지를 알게됩니다. 학습이 끝나면 예제 사진 3개만으로도, 처음 보는 클래스의 사진들을 맞출 수 있습니다. 분류 모델은 데이터를 라벨에 따라 구분하는 것을 배우지만, 퓨샷러닝은 데이터를 구분하는 방법 자체를 학습한다는 차이가 있습니다. 좀 더 자세한 내용은 아래 글들을 참고하시기 바랍니다.

 

 

 

< 소량의 데이터로 학습하는 퓨샷러닝 >

-> https://www.sedaily.com/NewsView/1VHPK6NWWG
 

< 퓨샷 러닝(few-shot learning) 연구 동향을 소개합니다 >
-> https://www.kakaobrain.com/blog/106

 

< few-shot learning and meta-learning >
-> https://www.borealisai.com/en/blog/tutorial-2-few-shot-learning-and-meta-learning-i/

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
사진 한 장으로 GAN 영상 생성 깊은바다 2019-05-23 1158
Style Transfer [1] NeuroWhAI 2018-04-21 1135
텐서플로우로 선형 회귀 구현 file 깊은바다 2017-03-09 1112
딥러닝 GAN으로 생성한 고해상도 사진 [2] 깊은바다 2017-06-08 1063
텐서플로우에서 소프트맥스로 숫자 인식 구현 file 깊은바다 2017-03-09 1063
Spiking Neural Networks: 생물학적 신경망을 모방한 차세대 신경망 [2] 깊은바다 2018-08-27 1042
모두를 위한 머신러닝/딥러닝 강의 깊은바다 2016-04-03 1036
RNN(Recurrent Neural Network) 튜토리얼 깊은바다 2017-07-22 1031
텐서플로우 기초 이해하기 깊은바다 2017-03-11 1015
하나의 얼굴 이미지로 다양하게 변형된 얼굴을 만드는 StarGAN [1] NeuroWhAI 2017-12-30 1005
뭔가가 웹사이트를 하나 발견했는데... file [4] LegenDUST 2017-08-23 999
쉽게 씌어진 GAN 깊은바다 2018-04-11 926
AutoML을 이용한 Architecture Search 소개 및 NASNet 논문 리뷰 깊은바다 2019-08-18 898
빈 주차공간을 찾아서 알려주는 인공지능 만든 개발자 깊은바다 2019-02-09 866
CNN 초보자가 만드는 초보자 가이드 깊은바다 2017-04-09 853