레플리
글 수 126

한국어 임베딩

조회 수 583 추천 수 0 2019.12.11 21:05:41


800.jpg

 

http://www.yes24.com/Product/Goods/78569687

 

< 목차 >

- 1. 서론
- 2. 벡터가 어떻게 의미를 가지게 되는가
- 3. 한국어 전처리
- 4. 단어 수준 임베딩
- 5. 문장 수준 임베딩
- 6. 임베딩 파인 튜닝
 

 

 

자연어처리 블로그(ratsgo.github.io)로 유명한 이기창님의 책입니다. 딥러닝에서 텍스트 기반 모델의 가장 큰 차이점은 바로 임베딩입니다. 문장을 신경망이 이해하는 벡터로 변환하여 끼워 넣는(embed) 역할을 합니다.

 

이 책에서는 크게 다음과 같은 부분으로 구성되어 있습니다. 첫째, Word2Vec, FastText, GloVe 같은 단어수준 임베딩. 둘째, Doc2Vec, ELMo, BERT 같은 문장수준 임베딩. 셋째, 사전훈련 모델을 사용하여 다른 문제에 파인튜닝하는 방법.

 

우선 이전 도서들과 달리 최신 모델들을 보여준다는 점에서 상당히 좋았습니다. 저자가 국문학과 출신이라 그런지 문장도 깔끔하고 읽기가 편했습니다. 하지만 일반적인 개념을 다룬 앞부분에 비해, 뒤로 갈수록 설명이 조금 부족한 편입니다.

 

예를 들어, <밑바닥부터 시작하는 딥러닝2>에서는 Word2Vec만 77페이지입니다. 반면에 여기서는 10페이지에 불과합니다. 물론 많은 주제를 다루기 때문에 어쩔 수 없다고 생각합니다. 다만 초보자가 처음 접하기엔 어렵다고 봅니다. 딥러닝 자연어처리에 익숙한 분들이 이론적으로 정리하기에 좋을 듯 합니다.

List of Articles
제목 글쓴이 날짜sort 조회 수
프롬프트 엔지니어링 교과서 file 깊은바다 2023-12-04 255
외로워지는 사람들 file 깊은바다 2023-02-17 167
매출 올리는 데이터 사이언티스트 file Dfinite 2022-07-31 795
AI 메이커스, 인공지능 전쟁의 최전선 file 깊은바다 2022-06-04 594
이노베이터 - 컴퓨터의 역사 file 깊은바다 2021-05-11 221
바닥부터 배우는 강화 학습 file 다코미 2021-01-20 451
파이썬으로 챗봇 만들기 file 다코미 2021-01-20 417
처음 만나는 AI 수학 with Python file 다코미 2021-01-14 411
기초부터 시작하는 강화학습/신경망 알고리즘 file 깊은바다 2020-10-18 527
EBS 수학과 함께하는 AI 기초 file 깊은바다 2020-09-15 636
펭귄브로의 3분 딥러닝, 파이토치맛 file 깊은바다 2020-08-02 290
미술관에 GAN 딥러닝 실전 프로젝트 file [1] 깊은바다 2020-07-05 413
보통 사람들의 전쟁 file 깊은바다 2020-05-28 269
당신이 알고 싶은 음성인식 AI의 미래 file 깊은바다 2020-04-22 349
외로워지는 사람들 file 깊은바다 2020-04-01 331