레플리
글 수 203


모델들의 공통적인 구조
• Encoder
– 질의와 문맥을 벡터로 표현
• Co-attention
– 상호 Attention을 통해 문맥과 질의 간의 관계 파악
• Output
– 질문에 해당하는 정답 단어의 시작과 끝...

 

https://www.slideshare.net/NaverEngineering/ss-108892693

 

 

 

기계독해(Machine Reading Comprehension)에 대해 설명한 자료입니다. 대표적인 벤치마크로 SQuAD(Stanford Question Answering Dataset)를 들 수 있는데요. 다음과 같이 지문과 질문이 주어지면 정답의 시작과 끝을 예측합니다.

 

< 지문 >
대한민국의 가수 겸 배우. 본명은 이지은이며, 아이유(IU)는 예명이다. 아이유(IU)는 '음악으로 너와 내가 하나가 된다'라는 뜻을 가지고 있다. 2008년에 데뷔하였다. 국민 여동생이라고도 불렸다.

 

< 질문 >
아이유가 데뷔한 년도는?

 

< 정답 >
2008년

 

 

 

지문과 질문을 벡터로 표현하는 Encoder, 상호 어텐션을 통해 관계를 파악하는 Co-attention, 지문에서 정답의 시작과 끝을 출력하는 Output으로 나누어 설명하고 있습니다. 최근에는 SQuAD의 상위권을 거의 트랜스포머 기반의 모델이 차지하고 있습니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
딥러닝 이론에서 텐서플로 실습까지 [2] 깊은바다 2017-11-08 786
Stable Diffusion을 사용한 사진 변환 앱 Lensa AI, 앱스토어 1위 달성 깊은바다 2022-12-09 786
사진을 텍스트로 설명 - CaptionBot file 깊은바다 2016-04-07 794
AutoML-Zero, 진화적 알고리즘을 사용하여 신경망 구조 설계 [2] 깊은바다 2020-03-13 819
당근마켓에서 딥러닝 활용하기 - 불량 게시물 검사 깊은바다 2017-12-23 820
자동회귀(autoregressive)로 이미지를 생성하는 iGPT file 깊은바다 2020-06-18 821
알렉스넷과 Seq2Seq의 창시자 일리야 수츠케버(Ilya Sutskever) 깊은바다 2020-11-17 829
전신 사진을 생성하는 GAN 깊은바다 2019-05-05 832
앤드류 응의 YOLO 강의 영상 깊은바다 2020-09-23 834
어떻게 해야 기계에게 글을 잘 읽고 말할 수 있게 할까? - 기계독해(MRC) 깊은바다 2020-01-14 836
3D 이미지를 만드는 GAN - StyleNeRF 깊은바다 2021-12-20 841
소프트웨어 2.0 깊은바다 2018-08-14 846
고해상도 GAN - A Style-Based Generator Architecture for GAN 깊은바다 2018-12-15 849
인공지능 과학자의 꿈, 범용 AI는 가능할까 깊은바다 2021-10-15 865
제프리 힌튼, 얀 르쿤, 요슈아 벤지오가 말하는 딥러닝의 미래 깊은바다 2021-07-08 877