레플리
글 수 203


K-001.png

 

https://arxiv.org/pdf/1906.05909.pdf

 

 

 

구글이 또 흥미로운 논문을 발표했습니다. 요즘 보면 딥러닝 연구는 구글이 다 하는 것 같네요^^; 보통 이미지 인식은 CNN을 주로 사용합니다. 그러다 최근 어텐션을 추가하여 성능을 높이는 방법이 제안되었는데, 이번에 아예 어텐션만으로 구성된 모델이 나왔습니다.

 

사실 어텐션은 자연어처리인 Seq2Seq에서 처음 적용되었습니다. 인코더의 단어에서 중요한 부분에 집중(attention)하여 디코더로 전달하고, 이를 같이 계산하여 출력 단어를 생성합니다. 그후 셀프 어텐션(인코더에서 디코더가 아니라 인코더 또는 디코더 자체적으로 어텐션 수행)만으로 이루어진 트랜스포머가 등장했습니다. 그리고 얼마 지나지 않아 BERT, GPT2 등이 트랜스포머를 채택하면서 자연어처리 분야를 휩쓸고 있는 중입니다.

 

 

 

스크린샷을 보면 셀프 어텐션의 과정을 이해하실 수 있습니다. 먼저 한 점을 Query로, 그 주변 k 범위 만큼을 Key와 Value로 변환합니다. 그리고 Query와 Key를 곱하고, 다시 Value와 소프트맥스로 계산합니다. 간단히 설명하면 현재 점에서 그 주변의 점들 사이에 중요한 부분에 가중치를 주어 새로운 점이 만들어집니다.

 

트랜스포머는 모든 입력 단어끼리 모두 Q와 K를 곱하지만, 여기서는 일정 주변만 계산한다는 차이가 있습니다. 사실 이건 컨볼루션이 필터의 영역만큼 이동하며 특징을 뽑아내는 것과 유사합니다. 다만 차이점은 단순히 필터를 거친 특징이 아니라, 일정한 이미지 영역에서 중요한 부분에 집중한다는 것입니다. 컨볼루션 부분을 셀프 어텐션으로 바꾼 것을 빼고는, 풀링과 완전연결층은 동일합니다. 실험 결과를 보면 모두 어텐션을 적용한 것 보다는 컨볼루션과 어텐션을 조합했을 때 더 정확도가 높다고 합니다.

 

 

 

사람도 물체를 판별할 때 전체를 다 고려하지는 않습니다. 예를 들어, 얼굴을 인식할 때 다른 사람과 다른 몇몇 특징에 더 주안점을 둡니다. 그런 면에서 어텐션이 뇌의 동작 방식에 더 가까울 지도 모르겠습니다. 앞으로 어텐션이 자연어처리 뿐만 아니라 이미지 인식에서도 핵심적인 기법으로 떠오를 듯 합니다.

 

List of Articles
제목 글쓴이 날짜 조회 수sort
GPT3를 기반으로한 OpenAI API 유료화 깊은바다 2020-06-12 2535
경쟁을 통해 이미지를 생성하는 법을 배우는 GAN file 깊은바다 2017-03-20 2520
Stable Diffusion 포토샵 플러그인 깊은바다 2022-12-25 2392
라온피플의 머신러닝과 딥러닝 강의 깊은바다 2017-05-07 2381
핸즈온 머신러닝 2판 영문 초고 다운로드 깊은바다 2019-05-12 2352
구글이 만든 이미지 생성 딥러닝 BEGAN file [2] 깊은바다 2017-04-05 2304
얀 르쿤이 만든 최초의 CNN 테스트 영상 깊은바다 2020-01-19 2216
아카라이브 반실사 채널 - Stable Diffusion 실사 그림 file 깊은바다 2023-03-01 2102
자습해도 모르겠던 딥러닝, 머리속에 인스톨 시켜드립니다 [2] 깊은바다 2017-09-12 2092
GTA5로 자율주행 구현 영상 깊은바다 2019-05-08 1980
뭔가가 웹사이트를 하나 발견했는데... file [4] LegenDUST 2017-08-23 1977
사진 한 장으로 GAN 영상 생성 깊은바다 2019-05-23 1961
Style Transfer [1] NeuroWhAI 2018-04-21 1897
얀 르쿤의 자기지도학습 강의 - The Power and Limits Of Deep Learning file 깊은바다 2019-07-13 1896
일기를 쓰면 그림을 그려주는 그림일기 서비스 file 깊은바다 2022-11-08 1894