글 수 86


K-001.png

 

https://arxiv.org/pdf/1906.05909.pdf

 

 

 

구글이 또 흥미로운 논문을 발표했습니다. 요즘 보면 딥러닝 연구는 구글이 다 하는 것 같네요^^; 보통 이미지 인식은 CNN을 주로 사용합니다. 그러다 최근 어텐션을 추가하여 성능을 높이는 방법이 제안되었는데, 이번에 아예 어텐션만으로 구성된 모델이 나왔습니다.

 

사실 어텐션은 자연어처리인 Seq2Seq에서 처음 적용되었습니다. 인코더의 단어에서 중요한 부분에 집중(attention)하여 디코더로 전달하고, 이를 같이 계산하여 출력 단어를 생성합니다. 그후 셀프 어텐션(인코더에서 디코더가 아니라 인코더 또는 디코더 자체적으로 어텐션 수행)만으로 이루어진 트랜스포머가 등장했습니다. 그리고 얼마 지나지 않아 BERT, GPT2 등이 트랜스포머를 채택하면서 자연어처리 분야를 휩쓸고 있는 중입니다.

 

 

 

스크린샷을 보면 셀프 어텐션의 과정을 이해하실 수 있습니다. 먼저 한 점을 Query로, 그 주변 k 범위 만큼을 Key와 Value로 변환합니다. 그리고 Query와 Key를 곱하고, 다시 Value와 소프트맥스로 계산합니다. 간단히 설명하면 현재 점에서 그 주변의 점들 사이에 중요한 부분에 가중치를 주어 새로운 점이 만들어집니다.

 

트랜스포머는 모든 입력 단어끼리 모두 Q와 K를 곱하지만, 여기서는 일정 주변만 계산한다는 차이가 있습니다. 사실 이건 컨볼루션이 필터의 영역만큼 이동하며 특징을 뽑아내는 것과 유사합니다. 다만 차이점은 단순히 필터를 거친 특징이 아니라, 일정한 이미지 영역에서 중요한 부분에 집중한다는 것입니다. 컨볼루션 부분을 셀프 어텐션으로 바꾼 것을 빼고는, 풀링과 완전연결층은 동일합니다. 실험 결과를 보면 모두 어텐션을 적용한 것 보다는 컨볼루션과 어텐션을 조합했을 때 더 정확도가 높다고 합니다.

 

 

 

사람도 물체를 판별할 때 전체를 다 고려하지는 않습니다. 예를 들어, 얼굴을 인식할 때 다른 사람과 다른 몇몇 특징에 더 주안점을 둡니다. 그런 면에서 어텐션이 뇌의 동작 방식에 더 가까울 지도 모르겠습니다. 앞으로 어텐션이 자연어처리 뿐만 아니라 이미지 인식에서도 핵심적인 기법으로 떠오를 듯 합니다.

 






List of Articles
제목 글쓴이 날짜 조회 수
얀 르쿤의 자기지도학습 강의 - The Power and Limits Of Deep Learning file 깊은바다 2019-07-13 54
딥러닝의 기본 깊은바다 2019-07-12 73
셀프 어텐션만으로 이미지를 인식하는 딥러닝 모델 file 깊은바다 2019-06-26 134
Selfie, 비지도학습 이미지 사전훈련 모델 file 깊은바다 2019-06-15 165
목소리와 입모양을 변경할 수 있는 GAN 모델 깊은바다 2019-06-13 131
딥러닝의 미래는 바로 비지도학습 깊은바다 2019-06-06 215
YOLO, Object Detection Network - 알고리즘 설명 file 깊은바다 2019-06-02 231
사진 한 장으로 GAN 영상 생성 깊은바다 2019-05-23 232
객체 검출 딥러닝 모델인 YOLO의 테드 영상 깊은바다 2019-05-22 199
스냅챕의 성별 변환 필터는 GAN을 사용했을까 깊은바다 2019-05-15 155
신경망에 활성화 함수가 필요한 이유 file 깊은바다 2019-05-14 152
핸즈온 머신러닝 2판 영문 초고 다운로드 깊은바다 2019-05-12 188
GTA5로 자율주행 구현 영상 깊은바다 2019-05-08 215
전신 사진을 생성하는 GAN 깊은바다 2019-05-05 178
인공신경망 학습 레시피 - 안드레이 카파시의 딥러닝 실전 노하우 깊은바다 2019-04-27 190