레플리
글 수 203


모델들의 공통적인 구조
• Encoder
– 질의와 문맥을 벡터로 표현
• Co-attention
– 상호 Attention을 통해 문맥과 질의 간의 관계 파악
• Output
– 질문에 해당하는 정답 단어의 시작과 끝...

 

https://www.slideshare.net/NaverEngineering/ss-108892693

 

 

 

기계독해(Machine Reading Comprehension)에 대해 설명한 자료입니다. 대표적인 벤치마크로 SQuAD(Stanford Question Answering Dataset)를 들 수 있는데요. 다음과 같이 지문과 질문이 주어지면 정답의 시작과 끝을 예측합니다.

 

< 지문 >
대한민국의 가수 겸 배우. 본명은 이지은이며, 아이유(IU)는 예명이다. 아이유(IU)는 '음악으로 너와 내가 하나가 된다'라는 뜻을 가지고 있다. 2008년에 데뷔하였다. 국민 여동생이라고도 불렸다.

 

< 질문 >
아이유가 데뷔한 년도는?

 

< 정답 >
2008년

 

 

 

지문과 질문을 벡터로 표현하는 Encoder, 상호 어텐션을 통해 관계를 파악하는 Co-attention, 지문에서 정답의 시작과 끝을 출력하는 Output으로 나누어 설명하고 있습니다. 최근에는 SQuAD의 상위권을 거의 트랜스포머 기반의 모델이 차지하고 있습니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
AI는 '스스로 학습'할 수 있을까? - 자기지도학습 깊은바다 2020-06-02 544
스케치를 얼굴사진으로 변형하는 딥러닝 생성모델 - DeepFaceDrawing 깊은바다 2020-06-07 553
MS의 챗봇 린나, 딥러닝으로 노래를 부르는 가수로 데뷔 깊은바다 2019-04-10 561
3초 분량의 100만개 동영상 데이터셋 - Moments in Time 깊은바다 2020-09-05 568
뉴런 하나로 특정 개념을 표현한다, CLIP 모델에서 개념 뉴런을 발견 file 깊은바다 2021-03-12 573
GAN으로 만든 모델 사진을 판매하는 일본 회사 깊은바다 2020-07-08 575
딥페이크로 만든 실베스터 스탤론의 터미네이터2 깊은바다 2019-12-29 577
파이토치 버전 YOLO Colab 테스트 코드 file 깊은바다 2020-09-25 596
말로 설명하면 사진을 만들어주는 딥러닝 모델 - RetrieveGAN 깊은바다 2020-07-26 632
GameGAN으로 직접 화면을 생성하는 GTA5 게임 깊은바다 2021-06-20 634
스케치를 사진으로 바꾸어주는 프로그램 - NVIDIA CANVAS 깊은바다 2021-06-25 637
GPT-3로 광고문구를 만드는 서비스 - Copy.ai 깊은바다 2021-03-22 647
한 단어만으로 텍스트 스타일을 바꿔주는 딥러닝 모델 - TextStyleBrush 깊은바다 2021-06-24 653
NVIDIA가 발표한 Text-to-3D 모델 - Magic3D 깊은바다 2022-11-22 654
미디가 아니라 오디오로 음악을 만들어내는 OpenAI의 생성 모델 - Jukebox file 깊은바다 2020-05-02 659