레플리
글 수 208


그림 3. Block과 Convolution Cell로부터 전체 architecture를 생성하는 과정

 

http://research.sualab.com/review/2018/09/28/nasnet-review.html

 

 

 

요즘 많은 관심을 받고 있는 AutoML에 대해서 잘 정리한 글입니다. 지금까지는 사람이 직접 딥러닝 모델을 설계하였습니다. 보통 경험과 직관에 의해서 이루어지며, 끊임없는 테스트를 거쳐 계속 보완합니다.

 

이런 과정을 자동으로 해주는 것이 AutoML입니다. 크게 3가지 종류로 나눌 수 있습니다. 첫째, 데이터에서 어떤 특성을 골라 사용할지 결정하는 피처 엔지니어링입니다. 둘째, 모델의 구조를 결정하는 아키텍처 검색입니다. 셋째, 학습률이나 배치사이즈 등을 정하는 하이퍼파라미터 최적화입니다.

 

NASNet(Neural Architecture Search)이 대표적인데 RNN Controller와 강화학습을 기반으로 합니다. RNN이 모델의 구조를 결정하고 이를 끝까지 학습을 해봅니다. 그러고 그 결과를 평가하여 강화학습으로 RNN의 성능을 개선합니다. 이 과정을 반복하면 최적의 모델을 찾을 수 있습니다. 매우 작은 데이터셋인 CIFAR-10의 모델을 만드는데 500GPU로 4일이 걸렸다고 합니다. 대신 사람이 만든 것에 버금가는 정확도를 달성하였습니다.

 

앞으로 AutoML이 더욱 빨리지고 성능이 높아질 것이라 생각합니다. 그만큼 알고리즘을 개발하는 연구자들을 제외하고, 일반적인 딥러닝 전문가의 중요성이 지금보다 낮아질지도 모릅니다. 대신 이를 응용하여 제품이나 서비스에 적용하는 도메인 전문가가 더 부각될 것 같습니다. 물론 인공지능과 딥러닝에 대한 이해가 선행되어야 하는 것은 당연합니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
CLIP을 사용하여 말로 그림을 그려주는 스마트폰 앱 - WOMBO Dream file 깊은바다 2021-11-25 1990
내가 말하는 걸 보여줘, DALL-E 깊은바다 2021-11-11 1268
텍스트를 이미지로 생성해주는 사이트 - Text2Art (VQGAN-CLIP) file 깊은바다 2021-11-10 7374
원티드는 어떻게 AI로 채용 결과를 예측하고 매칭할까 깊은바다 2021-11-09 1183
OpenAI의 CLIP을 한글로 구현한 KoCLIP file 깊은바다 2021-11-02 3581
인공지능 과학자의 꿈, 범용 AI는 가능할까 깊은바다 2021-10-15 1081
딥러닝 범용 모델 - Foundation Models 깊은바다 2021-09-06 1535
소프트웨어 개발 경험이 먼저다 - 딥러닝 역시 S/W 기술의 하나일 뿐 깊은바다 2021-07-14 1119
제프리 힌튼, 얀 르쿤, 요슈아 벤지오가 말하는 딥러닝의 미래 깊은바다 2021-07-08 1120
OpenAI의 CLIP을 사용해서 자연어로 유튜브 영상 검색 깊은바다 2021-07-05 1428
스케치를 사진으로 바꾸어주는 프로그램 - NVIDIA CANVAS 깊은바다 2021-06-25 828
한 단어만으로 텍스트 스타일을 바꿔주는 딥러닝 모델 - TextStyleBrush 깊은바다 2021-06-24 884
GameGAN으로 직접 화면을 생성하는 GTA5 게임 깊은바다 2021-06-20 825
Transformer와 동급의 성능에 속도는 훨씬 빨라진 MLP-Mixer file 깊은바다 2021-06-11 1777
GAN으로 얼굴사진을 생성하는 사이트 - Face Generator file 깊은바다 2021-04-28 3119