레플리
글 수 208


 

https://hoya012.github.io/blog/automl-zero-review

 

 

 

제가 인공지능으로 석사를 하던 시기에는 발표되는 논문이 매우 적었습니다. 그때는 arXiv가 활성화되지 않아서, 학회나 저널에 발표된 후에야 검색이 가능했습니다. 지금은 인공지능 관련 논문이 매일 쏟아져 나오는데요. 기존 방법을 조금 바꾼 것을 넘어, 혁신적인 알고리즘도 빠르게 발전하고 있습니다.

 

AutoML-Zero도 그중 하나입니다. 과거에는 딥러닝의 구조를 직접 사람이 설계했습니다. 최근에는 이를 자동으로 수행하는 AutoML이 주목받고 있습니다. 기존에는 NAS(Neural Architecture Search) 같이 학습을 통해 최적의 아키텍처를 생성했습니다. AutoML-Zero는 유전 프로그래밍과 비슷한 진화적 알고리즘을 사용합니다. 사람의 뇌가 만들어진 방식과 좀 더 가깝다고 볼 수 있습니다.

 

또 하나 중요한 차이는 신경망 설계를 바닥부터 시작했다는 점입니다. NAS는 컨볼루션이나 맥스풀링 같은 최소단위를 사람이 미리 구현했습니다. AutoML-Zero는 기초적인 수학 연산자만 가지고 진화를 시켰기 때문에 보다 확장 가능성이 높습니다.

 

앞으로 인공지능도 인공지능이 만드는 시대가 곧 올 듯 합니다. 핵심 연구자들은 계속 필요하겠지만, 보통의 모델러들은 위치가 조금 애매해질지도 모르겠네요. 대신 도메인 전문가들이 보다 쉽게 딥러닝을 적용할 수 있다는 면에는 긍정적인 방향이라 생각합니다.

엮인글 :

NeuroWhAI

2020.03.16 20:15:06
*.207.52.32

와; 정말 놀랍네요.

역전파 알고리즘을 스스로 찾아냈다니...

깊은바다

2020.03.17 01:36:17
*.68.248.95

저도 매번 놀라고 있습니다^^;

List of Articles
제목 글쓴이 날짜 조회 수sort
Spiking Neural Networks: 생물학적 신경망을 모방한 차세대 신경망 [2] 깊은바다 2018-08-27 1756
아이폰에서 실행하는 Stable Diffusion 앱 - Draw Things 깊은바다 2022-11-11 1704
R-CNN 에서 부터 Mask R-CNN 까지 깊은바다 2019-09-03 1696
텐서플로우에서 소프트맥스로 숫자 인식 구현 file 깊은바다 2017-03-09 1656
GAN으로 만든 가짜 사진과 진짜 사진을 맞추는 사이트 file 깊은바다 2019-03-04 1653
딥페이크로 일론 머스크인 척 친구들을 속이는 영상 깊은바다 2020-04-19 1635
사진을 디즈니 만화로 바뀌주는 딥러닝 모델 - Toonify 깊은바다 2020-09-21 1631
목소리와 입모양을 변경할 수 있는 GAN 모델 깊은바다 2019-06-13 1627
텐서플로우로 선형 회귀 구현 file 깊은바다 2017-03-09 1617
오픈소스로 공개된 Text-to-Image 모델 - Stable Diffusion 깊은바다 2022-09-07 1566
딥러닝 범용 모델 - Foundation Models 깊은바다 2021-09-06 1535
최신 딥러닝 모델들의 학습 비용 깊은바다 2019-12-12 1527
Text-to-Image 모델을 정리한 글 - The State of AI and Art 2022 깊은바다 2022-10-06 1512
모두를 위한 머신러닝/딥러닝 강의 깊은바다 2016-04-03 1495
쉽게 씌어진 GAN 깊은바다 2018-04-11 1488