글 수 93


K-001.png

 

https://arxiv.org/pdf/1906.05909.pdf

 

 

 

구글이 또 흥미로운 논문을 발표했습니다. 요즘 보면 딥러닝 연구는 구글이 다 하는 것 같네요^^; 보통 이미지 인식은 CNN을 주로 사용합니다. 그러다 최근 어텐션을 추가하여 성능을 높이는 방법이 제안되었는데, 이번에 아예 어텐션만으로 구성된 모델이 나왔습니다.

 

사실 어텐션은 자연어처리인 Seq2Seq에서 처음 적용되었습니다. 인코더의 단어에서 중요한 부분에 집중(attention)하여 디코더로 전달하고, 이를 같이 계산하여 출력 단어를 생성합니다. 그후 셀프 어텐션(인코더에서 디코더가 아니라 인코더 또는 디코더 자체적으로 어텐션 수행)만으로 이루어진 트랜스포머가 등장했습니다. 그리고 얼마 지나지 않아 BERT, GPT2 등이 트랜스포머를 채택하면서 자연어처리 분야를 휩쓸고 있는 중입니다.

 

 

 

스크린샷을 보면 셀프 어텐션의 과정을 이해하실 수 있습니다. 먼저 한 점을 Query로, 그 주변 k 범위 만큼을 Key와 Value로 변환합니다. 그리고 Query와 Key를 곱하고, 다시 Value와 소프트맥스로 계산합니다. 간단히 설명하면 현재 점에서 그 주변의 점들 사이에 중요한 부분에 가중치를 주어 새로운 점이 만들어집니다.

 

트랜스포머는 모든 입력 단어끼리 모두 Q와 K를 곱하지만, 여기서는 일정 주변만 계산한다는 차이가 있습니다. 사실 이건 컨볼루션이 필터의 영역만큼 이동하며 특징을 뽑아내는 것과 유사합니다. 다만 차이점은 단순히 필터를 거친 특징이 아니라, 일정한 이미지 영역에서 중요한 부분에 집중한다는 것입니다. 컨볼루션 부분을 셀프 어텐션으로 바꾼 것을 빼고는, 풀링과 완전연결층은 동일합니다. 실험 결과를 보면 모두 어텐션을 적용한 것 보다는 컨볼루션과 어텐션을 조합했을 때 더 정확도가 높다고 합니다.

 

 

 

사람도 물체를 판별할 때 전체를 다 고려하지는 않습니다. 예를 들어, 얼굴을 인식할 때 다른 사람과 다른 몇몇 특징에 더 주안점을 둡니다. 그런 면에서 어텐션이 뇌의 동작 방식에 더 가까울 지도 모르겠습니다. 앞으로 어텐션이 자연어처리 뿐만 아니라 이미지 인식에서도 핵심적인 기법으로 떠오를 듯 합니다.

 

List of Articles
제목 글쓴이 날짜 조회 수
딥러닝이 작동하는 원리는? 깊은바다 2019-11-17 60
GAN을 활용한 My handwriting styler 깊은바다 2019-10-20 176
가중치를 하나로 공유하고 모델의 구조만 찾는 WANN 깊은바다 2019-09-10 256
네이버의 손글씨 자동생성 인공지능 file 깊은바다 2019-09-08 381
R-CNN 에서 부터 Mask R-CNN 까지 깊은바다 2019-09-03 290
만화 캐릭터를 자동으로 생성하는 서비스 - Waifu file 깊은바다 2019-08-23 377
AutoML을 이용한 Architecture Search 소개 및 NASNet 논문 리뷰 깊은바다 2019-08-18 379
얀 르쿤의 자기지도학습 강의 - The Power and Limits Of Deep Learning file 깊은바다 2019-07-13 436
딥러닝의 기본 깊은바다 2019-07-12 312
셀프 어텐션만으로 이미지를 인식하는 딥러닝 모델 file 깊은바다 2019-06-26 481
Selfie, 비지도학습 이미지 사전훈련 모델 file 깊은바다 2019-06-15 828
목소리와 입모양을 변경할 수 있는 GAN 모델 깊은바다 2019-06-13 325
딥러닝의 미래는 바로 비지도학습 깊은바다 2019-06-06 1121
YOLO, Object Detection Network - 알고리즘 설명 file 깊은바다 2019-06-02 1412
사진 한 장으로 GAN 영상 생성 깊은바다 2019-05-23 574