레플리
글 수 281

Java에서 Word2vec 사용하기

조회 수 1556 추천 수 0 2018.05.05 18:26:52


Alt text

 

https://deeplearning4j.org/kr/word2vec

 

 

 

Deeplearning4j는 자바를 위한 딥러닝 라이브러리입니다. 여기서 사용할 수 있는 Word2vec 클래스에 대한 문서인데 자세히 설명되어 있어 도움이 될 것 같습니다.

 

Word2vec는 단어를 숫자로 이루어진 벡터로 변경하는 방법으로 딥러닝 자연어처리에 기본이 됩니다. 크게 CBOW(Continuous Bag of Words)와 Skip-gram 방식으로 나누어집니다. CBOW는 주변 단어로 현재 단어를 예측하고, Skip-gram은 반대로 현재 단어로 주변 단어를 결정합니다.

 

< CBOW >
나는 너를 사랑해
(나는, 사랑해) -> 너를

 

< Skip-gram >
나는 너를 사랑해
(너를) -> 나는
(너를) -> 사랑해

 

 

 

이렇게 데이터셋을 만들어 학습을 하고 생성된 가중치가 각 단어의 벡터값이 됩니다. 데이터셋 문장들에서 주변에 있는 단어들은 유사한 의미를 갖고 있을 가능성이 높습니다. 그래서 비슷한 의미의 단어들은 벡터값 역시 유사하게 나옵니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
생성 에이전트를 ChatGPT 프롬프트만으로 구현 file 깊은바다 2023-04-20 262
GPT가 스스로 계획을 세워서 실행한다면 - AutoGPT와 LangChain file 깊은바다 2023-04-18 1417
ChatGPT 플러그인으로 만든 TODO 예제 file 깊은바다 2023-04-18 196
한국어 초거대AI가 필요한 이유 - 토크나이저와 한국어 콘텐츠 깊은바다 2023-04-17 263
심즈와 비슷한 가상세계를 ChatGPT로 구현 - 생성 에이전트(Generative Agents) file 깊은바다 2023-04-14 1636
ChatGPT 플러그인 전략 및 생태계 변화 전망 file 깊은바다 2023-04-09 1814
ChatGPT 원티드 플러그인 사용 화면 file 깊은바다 2023-04-07 277
GPT-3, InstructGPT, GPT-3.5, ChatGPT의 차이점 깊은바다 2023-04-05 1291
ChatGPT의 오픈소스 버전 - ColossalChat file 깊은바다 2023-03-30 498
ChatGPT 플러그인 구현 방법 - manifest와 OpenAPI Spec file 깊은바다 2023-03-28 623
ChatGPT를 앱스토어 같은 플랫폼으로 확장 - ChatGPT 플러그인 file 깊은바다 2023-03-24 347
딥마인드의 데미스 하사비스, AGI는 신중한 접근 필요 깊은바다 2023-03-22 146
GPT-4 수능 국어영역에서 3등급(상위 17%) 달성 깊은바다 2023-03-21 330
한글전용 초거대AI가 필요한 이유 [2] 깊은바다 2023-03-18 613
MS의 CTO인 Kevin Scott과 OpenAI와의 협업 깊은바다 2023-03-17 81