레플리
글 수 284

소설 쓰는 딥러닝

조회 수 1388 추천 수 0 2018.08.31 21:15:45


K-001.jpg

 

https://speakerdeck.com/dreamgonfly/soseol-sseuneun-dib-reoning-pycon-korea-2018

 

 

 

KT 인공지능 소설 공모전에서 최우수상을 받은 팀의 발표 자료입니다. 기본적으로 인코더-디코더의 방식인데 문장을 입력하면 새로운 문장이 나오는 end-to-end 구조입니다. RNN을 사용하지 않고 attention만으로 이루어진 transformer 모델을 기반으로 하고 거기에 메모리 네트워크를 추가하였습니다.

 

1. 유저가 처음 다섯 문장을 입력
2. 모델이 10개 후보 문장 생성
3. 유저가 후보 문장 중 한 문장 선택
4. 2번으로 반복

 

위와 같은 순서로 계속 문장을 만들어 나갔다고 합니다. 슬라이드 뒷부분에 실제 제출한 소설을 볼 수 있는데 전체적인 흐름면에서 완성도가 상당히 높습니다. 여러가지 소설이 섞인 다양한 데이터가 아니라 뭔가 통일된 형태의 정제된 데이터를 사용한 것이 아닐까 합니다.

List of Articles
제목 글쓴이 날짜 조회 수sort
OpenAI Transformer GPT2로 만든 언어 모델 깊은바다 2019-02-17 2980
카카오 형태소 분석기(khaiii) 설치와 은전한닢(mecab) 형태소 분석기 비교 깊은바다 2018-12-02 2828
구글 딥러닝 자연어 처리 오픈소스 SyntaxNet file 깊은바다 2017-12-28 2784
그림으로 아주 쉽게 설명한, The Illustrated GPT-2 깊은바다 2020-08-15 2783
추론이 가능한 딥러닝인 Relational Networks [2] 깊은바다 2017-06-11 2740
Python과 Tensorflow를 활용한 AI Chatbot 개발 및 실무 적용 깊은바다 2017-08-25 2582
GPT-3를 강화학습으로 업그레이드한 InstructGPT file 깊은바다 2022-01-30 2569
오픈소스 한국어 딥러닝 챗봇 - Kochat 깊은바다 2020-07-03 2503
딥러닝을 사용하여 의도 및 엔티티를 파악하는 챗봇 소스코드 file 깊은바다 2019-06-25 2329
개체명인식 with Naver 깊은바다 2018-11-20 2320
BERT로 토익 문제를 푸는 프로젝트 file 깊은바다 2019-04-30 2283
GPT2에서 문장 생성 시 단어를 확률에 따라 선택하는 방법 깊은바다 2020-07-16 2206
소설을 생성하는 NarrativeKoGPT2 file 깊은바다 2020-06-19 2198
GPT2로 만든 텍스트 어드벤처 게임 깊은바다 2019-12-09 2010
딥러닝으로 욕설 탐지하기 깊은바다 2018-08-06 1881