레플리
글 수 208


 

https://ai.googleblog.com/2019/08/exploring-weight-agnostic-neural.html

 

 

 

또 구글이 혁신적인 딥러닝 기법을 공개했습니다. WANN(Weight Agnostic Neural Networks)이란 이름처럼 신경망의 가중치를 학습하지 않습니다. 하나의 가중치를 모든 노드에서 공유하여 사용합니다. 대신 모델의 구조 자체를 조금씩 변경하며 평가한 후 개선해 나갑니다.

 

인간의 뉴런도 시냅스의 가중치만이 전부가 아닙니다. 뉴런간의 시냅스 연결 역시 학습을 통해 지속적으로 삭제 또는 생성됩니다. 가중치와 구조 모두 지능이라 할 수 있습니다.

 

최근 많은 인기를 끌고 있는 AutoML은 치명적인 단점이 하나 있습니다. 모델의 구조를 변경한 다음 끝까지 학습을 하기 때문에 시간이 엄청나게 걸립니다. 만약 WANN 같은 기술을 적용한다면 그 속도를 획기적으로 높일 수도 있습니다. 아키텍처 후보들의 가중치를 각각 학습할 필요가 없습니다. 데이터셋에 최적인 구조만 찾는다면, 그 후 가중치를 학습한 것 역시 가장 뛰어난 모델일지도 모릅니다. 앞으로 NAS(Neural Architecture Search)에 큰 변화가 올 것 같습니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
구글의 AI 가상피팅 앱 - Doppl 우종하 2025-07-05 18
구글 AI Studio에 바이브 코딩 기능 추가 file 우종하 2025-05-26 459
앤쓰로픽 대표, 2년 안에 AI가 모든 분야에서 인간을 능가할 것 file 우종하 2025-01-23 533
레딧에서 샘 알트만과의 AMA(Ask Me Anything) file 깊은바다 2024-11-01 517
LMM(Large Multimodal Model)의 시작을 알리는 GPT-4o 깊은바다 2024-05-23 589
GPT-4o와 구글 I/O 2024를 보고 느낀 점 깊은바다 2024-05-15 609
OpenAI의 Sora로 만든 단편영화 file 깊은바다 2024-03-26 654
만약 ChatGPT가 영상으로 세상을 이해하게 된다면? file 깊은바다 2024-02-16 683
인도의 생성AI 영화 - Maharaja in Denims 깊은바다 2024-01-16 644
누구나 쉽게 AI 인플루언서를 만드는 시대 - Aitana Lopez file 깊은바다 2024-01-04 625
95생 천재 소녀가 만든 Pika가 빅테크들을 이길 수 있었던 이유 file [2] 깊은바다 2023-12-24 1473
Text-to-Video 생성 서비스인 Pika, 5500만달러 투자 유치 file 깊은바다 2023-11-29 568
AI의 미래 - Coatue가 주목한 AI 산업 트렌드 깊은바다 2023-11-28 630
가구 카탈로그를 만들어주는 생성AI - 뚝딱 AI 스튜디오 file 깊은바다 2023-09-22 967
마우스로 끌어서 사진을 수정하는 딥러닝 - DragGAN 깊은바다 2023-05-21 715