레플리
글 수 203


모델들의 공통적인 구조
• Encoder
– 질의와 문맥을 벡터로 표현
• Co-attention
– 상호 Attention을 통해 문맥과 질의 간의 관계 파악
• Output
– 질문에 해당하는 정답 단어의 시작과 끝...

 

https://www.slideshare.net/NaverEngineering/ss-108892693

 

 

 

기계독해(Machine Reading Comprehension)에 대해 설명한 자료입니다. 대표적인 벤치마크로 SQuAD(Stanford Question Answering Dataset)를 들 수 있는데요. 다음과 같이 지문과 질문이 주어지면 정답의 시작과 끝을 예측합니다.

 

< 지문 >
대한민국의 가수 겸 배우. 본명은 이지은이며, 아이유(IU)는 예명이다. 아이유(IU)는 '음악으로 너와 내가 하나가 된다'라는 뜻을 가지고 있다. 2008년에 데뷔하였다. 국민 여동생이라고도 불렸다.

 

< 질문 >
아이유가 데뷔한 년도는?

 

< 정답 >
2008년

 

 

 

지문과 질문을 벡터로 표현하는 Encoder, 상호 어텐션을 통해 관계를 파악하는 Co-attention, 지문에서 정답의 시작과 끝을 출력하는 Output으로 나누어 설명하고 있습니다. 최근에는 SQuAD의 상위권을 거의 트랜스포머 기반의 모델이 차지하고 있습니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
딥러닝 웹서비스 개발 도전기 - 연예인 얼굴 판별기 깊은바다 2020-05-01 3107
자기지도학습 기반의 이미지 사전훈련 모델 - SimCLR 깊은바다 2020-03-10 3017
StyleGAN을 사용하여 새로운 얼굴을 생성하는 사이트 file 깊은바다 2019-02-17 3003
딥러닝을 사용한 포즈 인식 - Teachable Machine 깊은바다 2020-02-28 2958
이미지를 문장으로 설명하는 딥러닝 코드 file 깊은바다 2017-12-15 2930
OpenAI의 CLIP을 한글로 구현한 KoCLIP file 깊은바다 2021-11-02 2831
구글이 만든 딥러닝 자동그리기 - AutoDraw [2] 깊은바다 2017-04-13 2821
객체 검출 딥러닝 모델인 YOLO의 테드 영상 깊은바다 2019-05-22 2819
GAN을 이용한 염색 및 헤어 스타일 합성 - 꽤 GAN찮은 헤어살롱 깊은바다 2020-10-29 2817
GAN으로 얼굴사진을 생성하는 사이트 - Face Generator file 깊은바다 2021-04-28 2792
딥 러닝 이후, AI 알고리즘 트렌드 깊은바다 2019-03-11 2747
텐서플로우에서 구글의 이미지 인식 프로그램 사용하기 file [2] 깊은바다 2017-03-30 2719
StyleGAN을 이말년 웹툰으로 파인튜닝한 모델 깊은바다 2020-08-07 2713
딥러닝을 이용한 사용자 선호도 기반 의상 추천 알고리즘 깊은바다 2018-06-26 2686
딥러닝이 탄생할 수 있었던 진짜 이유 file 깊은바다 2019-02-01 2572