레플리
글 수 284

소설 쓰는 딥러닝

조회 수 1388 추천 수 0 2018.08.31 21:15:45


K-001.jpg

 

https://speakerdeck.com/dreamgonfly/soseol-sseuneun-dib-reoning-pycon-korea-2018

 

 

 

KT 인공지능 소설 공모전에서 최우수상을 받은 팀의 발표 자료입니다. 기본적으로 인코더-디코더의 방식인데 문장을 입력하면 새로운 문장이 나오는 end-to-end 구조입니다. RNN을 사용하지 않고 attention만으로 이루어진 transformer 모델을 기반으로 하고 거기에 메모리 네트워크를 추가하였습니다.

 

1. 유저가 처음 다섯 문장을 입력
2. 모델이 10개 후보 문장 생성
3. 유저가 후보 문장 중 한 문장 선택
4. 2번으로 반복

 

위와 같은 순서로 계속 문장을 만들어 나갔다고 합니다. 슬라이드 뒷부분에 실제 제출한 소설을 볼 수 있는데 전체적인 흐름면에서 완성도가 상당히 높습니다. 여러가지 소설이 섞인 다양한 데이터가 아니라 뭔가 통일된 형태의 정제된 데이터를 사용한 것이 아닐까 합니다.

List of Articles
제목 글쓴이 날짜sort 조회 수
MS 코파일럿, 한국어 토큰수 2배에서 1.1배로 감소 file 깊은바다 2024-05-04 36
5배 싸진 클로바X의 경량화 모델 - HCX-DASH file 깊은바다 2024-04-26 48
클로바X의 사용량 제한 - QPM과 TPM 깊은바다 2024-04-01 111
Pi를 만든 Inflection AI, MS로 대거 이직한 이유 깊은바다 2024-03-25 119
LLaMA나 Mistral이 계속 무료로 유지될 수 있을까 깊은바다 2024-03-05 249
GPT-3.5와 클로바X 가격 비교 file 깊은바다 2024-02-25 308
OpenAI, 성능은 높아지고 가격은 싸진 새로운 모델 공개 file 깊은바다 2024-01-26 333
AI 휴대용 기기 R1을 만든 Rabbit의 대표 Jesse Lyu 깊은바다 2024-01-12 261
화면을 보고 스마트폰 앱 사용방법을 배우는 모델 - AppAgent file 깊은바다 2024-01-08 308
LLM의 새로운 기법 - Merge와 DPO file 깊은바다 2024-01-02 1193
업스테이지 SOLAR 10.7B에서 사용한 DUS 모델 확장 방법 file 깊은바다 2023-12-27 480
죽은 아들의 AI 아바타를 만든 중국의 부모 file 깊은바다 2023-12-21 186
Private sLLM - 어떻게 만들고 어떻게 배포할까? file 깊은바다 2023-12-18 405
GPT-4가 내 여자친구보다 나를 더 잘 알까? file 깊은바다 2023-12-12 168
FSM과 생성 에이전트의 차이점 깊은바다 2023-11-22 190