레플리
글 수 203


모델들의 공통적인 구조
• Encoder
– 질의와 문맥을 벡터로 표현
• Co-attention
– 상호 Attention을 통해 문맥과 질의 간의 관계 파악
• Output
– 질문에 해당하는 정답 단어의 시작과 끝...

 

https://www.slideshare.net/NaverEngineering/ss-108892693

 

 

 

기계독해(Machine Reading Comprehension)에 대해 설명한 자료입니다. 대표적인 벤치마크로 SQuAD(Stanford Question Answering Dataset)를 들 수 있는데요. 다음과 같이 지문과 질문이 주어지면 정답의 시작과 끝을 예측합니다.

 

< 지문 >
대한민국의 가수 겸 배우. 본명은 이지은이며, 아이유(IU)는 예명이다. 아이유(IU)는 '음악으로 너와 내가 하나가 된다'라는 뜻을 가지고 있다. 2008년에 데뷔하였다. 국민 여동생이라고도 불렸다.

 

< 질문 >
아이유가 데뷔한 년도는?

 

< 정답 >
2008년

 

 

 

지문과 질문을 벡터로 표현하는 Encoder, 상호 어텐션을 통해 관계를 파악하는 Co-attention, 지문에서 정답의 시작과 끝을 출력하는 Output으로 나누어 설명하고 있습니다. 최근에는 SQuAD의 상위권을 거의 트랜스포머 기반의 모델이 차지하고 있습니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
GPT3를 기반으로한 OpenAI API 유료화 깊은바다 2020-06-12 2536
경쟁을 통해 이미지를 생성하는 법을 배우는 GAN file 깊은바다 2017-03-20 2530
Stable Diffusion 포토샵 플러그인 깊은바다 2022-12-25 2415
라온피플의 머신러닝과 딥러닝 강의 깊은바다 2017-05-07 2385
핸즈온 머신러닝 2판 영문 초고 다운로드 깊은바다 2019-05-12 2367
구글이 만든 이미지 생성 딥러닝 BEGAN file [2] 깊은바다 2017-04-05 2307
얀 르쿤이 만든 최초의 CNN 테스트 영상 깊은바다 2020-01-19 2247
아카라이브 반실사 채널 - Stable Diffusion 실사 그림 file 깊은바다 2023-03-01 2196
뭔가가 웹사이트를 하나 발견했는데... file [4] LegenDUST 2017-08-23 2159
자습해도 모르겠던 딥러닝, 머리속에 인스톨 시켜드립니다 [2] 깊은바다 2017-09-12 2094
GTA5로 자율주행 구현 영상 깊은바다 2019-05-08 1996
사진 한 장으로 GAN 영상 생성 깊은바다 2019-05-23 1967
일기를 쓰면 그림을 그려주는 그림일기 서비스 file 깊은바다 2022-11-08 1926
얀 르쿤의 자기지도학습 강의 - The Power and Limits Of Deep Learning file 깊은바다 2019-07-13 1901
Style Transfer [1] NeuroWhAI 2018-04-21 1897