레플리
글 수 203


모델들의 공통적인 구조
• Encoder
– 질의와 문맥을 벡터로 표현
• Co-attention
– 상호 Attention을 통해 문맥과 질의 간의 관계 파악
• Output
– 질문에 해당하는 정답 단어의 시작과 끝...

 

https://www.slideshare.net/NaverEngineering/ss-108892693

 

 

 

기계독해(Machine Reading Comprehension)에 대해 설명한 자료입니다. 대표적인 벤치마크로 SQuAD(Stanford Question Answering Dataset)를 들 수 있는데요. 다음과 같이 지문과 질문이 주어지면 정답의 시작과 끝을 예측합니다.

 

< 지문 >
대한민국의 가수 겸 배우. 본명은 이지은이며, 아이유(IU)는 예명이다. 아이유(IU)는 '음악으로 너와 내가 하나가 된다'라는 뜻을 가지고 있다. 2008년에 데뷔하였다. 국민 여동생이라고도 불렸다.

 

< 질문 >
아이유가 데뷔한 년도는?

 

< 정답 >
2008년

 

 

 

지문과 질문을 벡터로 표현하는 Encoder, 상호 어텐션을 통해 관계를 파악하는 Co-attention, 지문에서 정답의 시작과 끝을 출력하는 Output으로 나누어 설명하고 있습니다. 최근에는 SQuAD의 상위권을 거의 트랜스포머 기반의 모델이 차지하고 있습니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
스케치를 사진으로 변환하는 딥러닝 - NVIDIA의 GauGAN 깊은바다 2019-03-20 968
95생 천재 소녀가 만든 Pika가 빅테크들을 이길 수 있었던 이유 file [2] 깊은바다 2023-12-24 976
문장을 사진으로 변환하는 GPT-3 모델, DALL-E 깊은바다 2021-01-09 985
어떻게 컴퓨터가 사진을 이해하게 되었는가 깊은바다 2017-03-31 995
딥러닝(Deep Learning)에 대한 소개 깊은바다 2016-03-21 1000
GAN으로 사진에서 특정 부분을 지워주는 서비스 - Cleanup.pictures file 깊은바다 2022-01-17 1027
메타AI의 멀티모달 자기지도학습 모델인 Data2vec 깊은바다 2022-01-26 1033
CNN 초보자가 만드는 초보자 가이드 깊은바다 2017-04-09 1041
인공신경망 학습 레시피 - 안드레이 카파시의 딥러닝 실전 노하우 깊은바다 2019-04-27 1052
내가 말하는 걸 보여줘, DALL-E 깊은바다 2021-11-11 1062
말로 영상을 생성하는 딥러닝 모델 - CogVideo file 깊은바다 2022-05-30 1071
OpenAI의 CLIP을 사용해서 자연어로 유튜브 영상 검색 깊은바다 2021-07-05 1099
최초로 인간 수준의 크기를 가진 중국의 딥러닝 모델 - BaGuaLu file 깊은바다 2022-06-23 1117
10분안에 배우는 머신러닝 - GAN 알고리즘 원리와 응용분야 깊은바다 2019-04-01 1132
Stable Diffusion으로 만든 뮤직비디오 영상 깊은바다 2022-09-25 1136