글 수 181

Java에서 Word2vec 사용하기

조회 수 1354 추천 수 0 2018.05.05 18:26:52


Alt text

 

https://deeplearning4j.org/kr/word2vec

 

 

 

Deeplearning4j는 자바를 위한 딥러닝 라이브러리입니다. 여기서 사용할 수 있는 Word2vec 클래스에 대한 문서인데 자세히 설명되어 있어 도움이 될 것 같습니다.

 

Word2vec는 단어를 숫자로 이루어진 벡터로 변경하는 방법으로 딥러닝 자연어처리에 기본이 됩니다. 크게 CBOW(Continuous Bag of Words)와 Skip-gram 방식으로 나누어집니다. CBOW는 주변 단어로 현재 단어를 예측하고, Skip-gram은 반대로 현재 단어로 주변 단어를 결정합니다.

 

< CBOW >
나는 너를 사랑해
(나는, 사랑해) -> 너를

 

< Skip-gram >
나는 너를 사랑해
(너를) -> 나는
(너를) -> 사랑해

 

 

 

이렇게 데이터셋을 만들어 학습을 하고 생성된 가중치가 각 단어의 벡터값이 됩니다. 데이터셋 문장들에서 주변에 있는 단어들은 유사한 의미를 갖고 있을 가능성이 높습니다. 그래서 비슷한 의미의 단어들은 벡터값 역시 유사하게 나옵니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
구글 듀플렉스에 대한 소개 깊은바다 2018-07-30 170
게임 속 음성 기술 깊은바다 2018-06-13 181
딥러닝으로 미소녀 챗봇 만들기 깊은바다 2018-06-01 1279
페이지(PAIGE)를 만드는 사람들 - 자연어처리 기법 깊은바다 2018-05-26 365
딥러닝을 이용한 자연어처리 깊은바다 2018-05-17 535
머신러닝의 자연어처리 기술 깊은바다 2018-05-11 801
딥러닝 학습으로 배우는 대화 인공지능 - 구글 듀플렉스 깊은바다 2018-05-09 495
카카오미니의 명령어 분류 방법 - GloVe와 CNN 사용 깊은바다 2018-05-07 636
Java에서 Word2vec 사용하기 깊은바다 2018-05-05 1354
딥러닝으로 욕설 탐지하기 file [2] 깊은바다 2018-05-04 1018
챗봇에서 유사한 문장 자동인식 방법 file 깊은바다 2018-04-27 4802
Gluon으로구현해보는 한영기계번역 모형 깊은바다 2018-04-13 230
문장 입력 이진분류 모델 레시피 - 영화평점 학습 [3] 깊은바다 2018-04-04 564
잡담봇 삽질기 - 문봇에서 딥러닝 Seq2Seq로 문장 생성 깊은바다 2018-03-25 830
챗봇에 딥러닝 학습을 적용하기 어려운 이유 file 깊은바다 2018-03-23 6310