글 수 114


 

https://ai.googleblog.com/2019/08/exploring-weight-agnostic-neural.html

 

 

 

또 구글이 혁신적인 딥러닝 기법을 공개했습니다. WANN(Weight Agnostic Neural Networks)이란 이름처럼 신경망의 가중치를 학습하지 않습니다. 하나의 가중치를 모든 노드에서 공유하여 사용합니다. 대신 모델의 구조 자체를 조금씩 변경하며 평가한 후 개선해 나갑니다.

 

인간의 뉴런도 시냅스의 가중치만이 전부가 아닙니다. 뉴런간의 시냅스 연결 역시 학습을 통해 지속적으로 삭제 또는 생성됩니다. 가중치와 구조 모두 지능이라 할 수 있습니다.

 

최근 많은 인기를 끌고 있는 AutoML은 치명적인 단점이 하나 있습니다. 모델의 구조를 변경한 다음 끝까지 학습을 하기 때문에 시간이 엄청나게 걸립니다. 만약 WANN 같은 기술을 적용한다면 그 속도를 획기적으로 높일 수도 있습니다. 아키텍처 후보들의 가중치를 각각 학습할 필요가 없습니다. 데이터셋에 최적인 구조만 찾는다면, 그 후 가중치를 학습한 것 역시 가장 뛰어난 모델일지도 모릅니다. 앞으로 NAS(Neural Architecture Search)에 큰 변화가 올 것 같습니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
AI는 '스스로 학습'할 수 있을까? - 자기지도학습 깊은바다 2020-06-02 69
팩맨 게임을 딥러닝으로 시뮬레이션한 GameGAN 깊은바다 2020-05-23 99
CNN 시각화 사이트 - CNN Explainer 깊은바다 2020-05-10 131
얀 르쿤, 자기지도학습이 강화학습보다 중요 깊은바다 2020-05-03 113
미디가 아니라 오디오로 음악을 만들어내는 OpenAI의 생성 모델 - Jukebox file 깊은바다 2020-05-02 54
딥러닝 웹서비스 개발 도전기 - 연예인 얼굴 판별기 깊은바다 2020-05-01 101
사회적 거리를 지키는지 확인하는 지능형 CCTV 깊은바다 2020-04-23 131
딥페이크로 일론 머스크인 척 친구들을 속이는 영상 깊은바다 2020-04-19 151
딥마인드의 Agent57, 아타리 게임 벤치마크 정복 깊은바다 2020-04-03 146
AutoML-Zero, 진화적 알고리즘을 사용하여 신경망 구조 설계 [2] 깊은바다 2020-03-13 415
자기지도학습 기반의 이미지 사전훈련 모델 - SimCLR 깊은바다 2020-03-10 402
딥러닝을 사용한 포즈 인식 - Teachable Machine 깊은바다 2020-02-28 255
딥러닝 챗봇에 대한 오해 깊은바다 2020-02-25 236
Semantic Segmentation을 활용한 차량 파손 탐지 딥러닝 모델 개발기 깊은바다 2020-02-14 355
딥러닝으로 음성합성을 해주는 서비스 - 네이버 클로바더빙 file 깊은바다 2020-02-09 177