글 수 97


 

https://ai.googleblog.com/2019/08/exploring-weight-agnostic-neural.html

 

 

 

또 구글이 혁신적인 딥러닝 기법을 공개했습니다. WANN(Weight Agnostic Neural Networks)이란 이름처럼 신경망의 가중치를 학습하지 않습니다. 하나의 가중치를 모든 노드에서 공유하여 사용합니다. 대신 모델의 구조 자체를 조금씩 변경하며 평가한 후 개선해 나갑니다.

 

인간의 뉴런도 시냅스의 가중치만이 전부가 아닙니다. 뉴런간의 시냅스 연결 역시 학습을 통해 지속적으로 삭제 또는 생성됩니다. 가중치와 구조 모두 지능이라 할 수 있습니다.

 

최근 많은 인기를 끌고 있는 AutoML은 치명적인 단점이 하나 있습니다. 모델의 구조를 변경한 다음 끝까지 학습을 하기 때문에 시간이 엄청나게 걸립니다. 만약 WANN 같은 기술을 적용한다면 그 속도를 획기적으로 높일 수도 있습니다. 아키텍처 후보들의 가중치를 각각 학습할 필요가 없습니다. 데이터셋에 최적인 구조만 찾는다면, 그 후 가중치를 학습한 것 역시 가장 뛰어난 모델일지도 모릅니다. 앞으로 NAS(Neural Architecture Search)에 큰 변화가 올 것 같습니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
얀 르쿤이 만든 최초의 CNN 테스트 영상 new 깊은바다 2020-01-19 2
어떻게 해야 기계에게 글을 잘 읽고 말할 수 있게 할까? - 기계독해(MRC) 깊은바다 2020-01-14 49
딥페이크로 만든 실베스터 스탤론의 터미네이터2 깊은바다 2019-12-29 106
최신 딥러닝 모델들의 학습 비용 깊은바다 2019-12-12 224
딥러닝이 작동하는 원리는? 깊은바다 2019-11-17 262
GAN을 활용한 My handwriting styler 깊은바다 2019-10-20 290
가중치를 하나로 공유하고 모델의 구조만 찾는 WANN 깊은바다 2019-09-10 360
네이버의 손글씨 자동생성 인공지능 file 깊은바다 2019-09-08 650
R-CNN 에서 부터 Mask R-CNN 까지 깊은바다 2019-09-03 457
만화 캐릭터를 자동으로 생성하는 서비스 - Waifu file 깊은바다 2019-08-23 606
AutoML을 이용한 Architecture Search 소개 및 NASNet 논문 리뷰 깊은바다 2019-08-18 514
얀 르쿤의 자기지도학습 강의 - The Power and Limits Of Deep Learning file 깊은바다 2019-07-13 616
딥러닝의 기본 깊은바다 2019-07-12 418
셀프 어텐션만으로 이미지를 인식하는 딥러닝 모델 file 깊은바다 2019-06-26 632
Selfie, 비지도학습 이미지 사전훈련 모델 file 깊은바다 2019-06-15 1152