글 수 114


K-001.png

 

https://arxiv.org/pdf/1906.05909.pdf

 

 

 

구글이 또 흥미로운 논문을 발표했습니다. 요즘 보면 딥러닝 연구는 구글이 다 하는 것 같네요^^; 보통 이미지 인식은 CNN을 주로 사용합니다. 그러다 최근 어텐션을 추가하여 성능을 높이는 방법이 제안되었는데, 이번에 아예 어텐션만으로 구성된 모델이 나왔습니다.

 

사실 어텐션은 자연어처리인 Seq2Seq에서 처음 적용되었습니다. 인코더의 단어에서 중요한 부분에 집중(attention)하여 디코더로 전달하고, 이를 같이 계산하여 출력 단어를 생성합니다. 그후 셀프 어텐션(인코더에서 디코더가 아니라 인코더 또는 디코더 자체적으로 어텐션 수행)만으로 이루어진 트랜스포머가 등장했습니다. 그리고 얼마 지나지 않아 BERT, GPT2 등이 트랜스포머를 채택하면서 자연어처리 분야를 휩쓸고 있는 중입니다.

 

 

 

스크린샷을 보면 셀프 어텐션의 과정을 이해하실 수 있습니다. 먼저 한 점을 Query로, 그 주변 k 범위 만큼을 Key와 Value로 변환합니다. 그리고 Query와 Key를 곱하고, 다시 Value와 소프트맥스로 계산합니다. 간단히 설명하면 현재 점에서 그 주변의 점들 사이에 중요한 부분에 가중치를 주어 새로운 점이 만들어집니다.

 

트랜스포머는 모든 입력 단어끼리 모두 Q와 K를 곱하지만, 여기서는 일정 주변만 계산한다는 차이가 있습니다. 사실 이건 컨볼루션이 필터의 영역만큼 이동하며 특징을 뽑아내는 것과 유사합니다. 다만 차이점은 단순히 필터를 거친 특징이 아니라, 일정한 이미지 영역에서 중요한 부분에 집중한다는 것입니다. 컨볼루션 부분을 셀프 어텐션으로 바꾼 것을 빼고는, 풀링과 완전연결층은 동일합니다. 실험 결과를 보면 모두 어텐션을 적용한 것 보다는 컨볼루션과 어텐션을 조합했을 때 더 정확도가 높다고 합니다.

 

 

 

사람도 물체를 판별할 때 전체를 다 고려하지는 않습니다. 예를 들어, 얼굴을 인식할 때 다른 사람과 다른 몇몇 특징에 더 주안점을 둡니다. 그런 면에서 어텐션이 뇌의 동작 방식에 더 가까울 지도 모르겠습니다. 앞으로 어텐션이 자연어처리 뿐만 아니라 이미지 인식에서도 핵심적인 기법으로 떠오를 듯 합니다.

 

List of Articles
제목 글쓴이 날짜 조회 수
AI는 '스스로 학습'할 수 있을까? - 자기지도학습 깊은바다 2020-06-02 68
팩맨 게임을 딥러닝으로 시뮬레이션한 GameGAN 깊은바다 2020-05-23 99
CNN 시각화 사이트 - CNN Explainer 깊은바다 2020-05-10 131
얀 르쿤, 자기지도학습이 강화학습보다 중요 깊은바다 2020-05-03 113
미디가 아니라 오디오로 음악을 만들어내는 OpenAI의 생성 모델 - Jukebox file 깊은바다 2020-05-02 54
딥러닝 웹서비스 개발 도전기 - 연예인 얼굴 판별기 깊은바다 2020-05-01 101
사회적 거리를 지키는지 확인하는 지능형 CCTV 깊은바다 2020-04-23 131
딥페이크로 일론 머스크인 척 친구들을 속이는 영상 깊은바다 2020-04-19 151
딥마인드의 Agent57, 아타리 게임 벤치마크 정복 깊은바다 2020-04-03 146
AutoML-Zero, 진화적 알고리즘을 사용하여 신경망 구조 설계 [2] 깊은바다 2020-03-13 415
자기지도학습 기반의 이미지 사전훈련 모델 - SimCLR 깊은바다 2020-03-10 402
딥러닝을 사용한 포즈 인식 - Teachable Machine 깊은바다 2020-02-28 255
딥러닝 챗봇에 대한 오해 깊은바다 2020-02-25 236
Semantic Segmentation을 활용한 차량 파손 탐지 딥러닝 모델 개발기 깊은바다 2020-02-14 355
딥러닝으로 음성합성을 해주는 서비스 - 네이버 클로바더빙 file 깊은바다 2020-02-09 177