레플리
글 수 203


Catsjp-jumbo.jpg

 

https://icml.cc/2012/papers/73.pdf

 

 

 

2012년에 구글브레인에 있던 앤드류 응 교수가 스스로 학습하여 고양이를 판단하는 딥러닝을 공개해 화제가 된 적이 있습니다. 보통 이미지 분류를 하기 위해서는 이건 어떤 사진인지 라벨이 붙은 데이터가 있어야 합니다. 하지만 여기서는 라벨이 없는 데이터를 사용하여 비지도학습으로 구현하였습니다.

 

뇌과학에서 유명인사 뉴런(또는 할머니 뉴런)이란 개념이 있습니다. 특정 뉴런 하나가 어떤 사람을 판단하는 역할을 한다고 주장합니다. 예를 들어, 전지현 사진을 보면 뉴런1이 활성화되고 송혜교 사진을 보면 뉴런2가 활성화됩니다. 물론 뉴런 하나가 모든 역할을 하는 것이 아니라, 그 밑에 많은 층에서 단계적으로 처리된 것이 최종적으로 뉴런 하나의 출력으로 나오는 것입니다.

 

 

 

이런 유명인사 뉴런의 개념을 도입하여 고양이를 판단하는 인공신경망의 뉴런을 찾는 것이 목적입니다. 논문을 보면 신경망 모델로 오토인코더를 사용했다고 나와있습니다. 오토인코더는 입력과 동일한 출력을 나오도록 학습을 합니다. 그래서 중간에 있는 히든 레이어가 입력을 압축한 정보를 담고 있습니다. 예를 들어, 300x300의 사진이라면 90000개의 입력값이 있습니다. 이를 동일한 사진의 300x300의 출력이 나오도록 학습합니다. 그러면 중간에 있는 100개(임의로 설정한)의 히든 레이어는 90000개 사이즈의 정보가 요약되어 있다고 볼 수 있습니다.

 

이렇게 임의의 사진들을 넣고 오토인코더로 비지도학습을 한 다음에, 고양이 사진이 포함된 테스트셋으로 어떤 뉴런이 고양이를 가장 잘 판단하는지 선택합니다. 그러면 다른 데이터에 대해서도 이 뉴런 하나만으로 고양이인지 알 수 있습니다.

 

 

 

지금까지 딥러닝에서는 지도학습 방법이 가장 많이 사용되고 있습니다. 하지만 최근 제프리 힌튼이나 얀 르쿤이 강조하는 것처럼 범용적인 인공지능을 만들기 위해서는 사람처럼 비지도학습이 중요하다고 말하고 있습니다. 앞으로 이 분야가 많이 연구되지 않을까 생각됩니다.

 

List of Articles
제목 글쓴이 날짜 조회 수
인공지능 과학자의 꿈, 범용 AI는 가능할까 깊은바다 2021-10-15 865
딥러닝 범용 모델 - Foundation Models 깊은바다 2021-09-06 1317
소프트웨어 개발 경험이 먼저다 - 딥러닝 역시 S/W 기술의 하나일 뿐 깊은바다 2021-07-14 913
제프리 힌튼, 얀 르쿤, 요슈아 벤지오가 말하는 딥러닝의 미래 깊은바다 2021-07-08 871
OpenAI의 CLIP을 사용해서 자연어로 유튜브 영상 검색 깊은바다 2021-07-05 1068
스케치를 사진으로 바꾸어주는 프로그램 - NVIDIA CANVAS 깊은바다 2021-06-25 636
한 단어만으로 텍스트 스타일을 바꿔주는 딥러닝 모델 - TextStyleBrush 깊은바다 2021-06-24 646
GameGAN으로 직접 화면을 생성하는 GTA5 게임 깊은바다 2021-06-20 632
Transformer와 동급의 성능에 속도는 훨씬 빨라진 MLP-Mixer file 깊은바다 2021-06-11 1413
GAN으로 얼굴사진을 생성하는 사이트 - Face Generator file 깊은바다 2021-04-28 2766
말로 설명하여 이미지를 변형하는 GAN - StyleCLIP file 깊은바다 2021-04-04 1803
GPT-3로 광고문구를 만드는 서비스 - Copy.ai 깊은바다 2021-03-22 645
딥러닝의 창시자인 제프리 힌튼이 구글에 합류하게 된 스토리 깊은바다 2021-03-18 415
뉴런 하나로 특정 개념을 표현한다, CLIP 모델에서 개념 뉴런을 발견 file 깊은바다 2021-03-12 568
스냅챕의 디즈니 필터 깊은바다 2021-03-12 528