레플리
글 수 203


모델들의 공통적인 구조
• Encoder
– 질의와 문맥을 벡터로 표현
• Co-attention
– 상호 Attention을 통해 문맥과 질의 간의 관계 파악
• Output
– 질문에 해당하는 정답 단어의 시작과 끝...

 

https://www.slideshare.net/NaverEngineering/ss-108892693

 

 

 

기계독해(Machine Reading Comprehension)에 대해 설명한 자료입니다. 대표적인 벤치마크로 SQuAD(Stanford Question Answering Dataset)를 들 수 있는데요. 다음과 같이 지문과 질문이 주어지면 정답의 시작과 끝을 예측합니다.

 

< 지문 >
대한민국의 가수 겸 배우. 본명은 이지은이며, 아이유(IU)는 예명이다. 아이유(IU)는 '음악으로 너와 내가 하나가 된다'라는 뜻을 가지고 있다. 2008년에 데뷔하였다. 국민 여동생이라고도 불렸다.

 

< 질문 >
아이유가 데뷔한 년도는?

 

< 정답 >
2008년

 

 

 

지문과 질문을 벡터로 표현하는 Encoder, 상호 어텐션을 통해 관계를 파악하는 Co-attention, 지문에서 정답의 시작과 끝을 출력하는 Output으로 나누어 설명하고 있습니다. 최근에는 SQuAD의 상위권을 거의 트랜스포머 기반의 모델이 차지하고 있습니다.

엮인글 :
List of Articles
제목 글쓴이 날짜sort 조회 수
이젠 모델 구축도 학습도 필요없다, OpenAI의 이미지인식 모델 CLIP file 깊은바다 2021-03-07 4358
사진 한 장으로 움직이는 얼굴을 만드는 사이트 - Deep Nostalgia 깊은바다 2021-03-01 4282
톰 크루즈의 딥페이크 영상 file 깊은바다 2021-02-28 672
문장을 사진으로 변환하는 GPT-3 모델, DALL-E 깊은바다 2021-01-09 985
GAN으로 만든 얼굴을 테스트할 수 있는 뉴욕타임스의 기사 file 깊은바다 2020-11-24 682
알렉스넷과 Seq2Seq의 창시자 일리야 수츠케버(Ilya Sutskever) 깊은바다 2020-11-17 832
GAN을 이용한 염색 및 헤어 스타일 합성 - 꽤 GAN찮은 헤어살롱 깊은바다 2020-10-29 2817
GAN의 상용화를 알리는 시작 - 포토샵 뉴럴 필터 깊은바다 2020-10-22 884
이미지 생성모델에서 특징 벡터를 추출하여 사진을 조작하는 방법 file 깊은바다 2020-10-09 1576
파이토치 버전 YOLO Colab 테스트 코드 file 깊은바다 2020-09-25 597
앤드류 응의 YOLO 강의 영상 깊은바다 2020-09-23 838
사진을 디즈니 만화로 바뀌주는 딥러닝 모델 - Toonify 깊은바다 2020-09-21 1343
AI 없이 힘낼 수 없는 엔비디아 지포스 RTX - 딥러닝 DLSS 기술 깊은바다 2020-09-07 517
3초 분량의 100만개 동영상 데이터셋 - Moments in Time 깊은바다 2020-09-05 575
사진을 복원하는 딥러닝 모델 - DFDNet 깊은바다 2020-08-24 1229