글 수 189

딥러닝 자연어처리 - RNN에서 BERT까지

조회 수 1697 추천 수 1 2019.01.07 23:25:42


BERT 구조 ⢠í¸ëì¤í¬ë¨¸ì ì¸ì½ëë§ ì¬ì© ⢠BERT Base â 12ê°ì í¸ëì¤í¬ë¨¸ ë¸ë¡ ⢠BERT Large â 24ê°ì í¸ëì¤í¬ë¨¸ ë¸ë¡

https://www.slideshare.net/deepseaswjh/rnn-bert

 

 

 

이번에 자연어처리 강연 교재를 만들고 있습니다. 그중 RNN부터 BERT까지 정리한 자료를 공유합니다. 초보자를 대상으로 최대한 쉽게 설명하려고 노력했습니다. 대신 자세한 알고리즘은 다루지 않았습니다. 전체적인 개념을 이해하는데 도움이 되었으면 좋겠습니다.

 

 

 

< 챗봇 개발자 모임 >

- 페이스북 그룹에 가입하시면 챗봇에 대한 최신 정보를 쉽게 받으실 수 있습니다.

https://www.facebook.com/groups/ChatbotDevKR/

엮인글 :

NeuroWhAI

2019.01.08 18:35:53
*.64.194.131

감사합니다!

어텐션을 겨우겨우 이해했다고 생각했는데 트랜스포머에 BERT까지 허허 ㅠㅠ

깊은바다

2019.01.09 03:48:28
*.207.106.177

기술 발전이 너무 빠르죠 ㅎㅎ

저도 따라가기 벅찹니다 ㅠㅠ

List of Articles
제목 글쓴이 날짜sort 조회 수
케라스로 만든 한글 Seq2Seq 챗봇 소스코드 깊은바다 2019-07-13 2894
딥러닝 자연어처리 강의 - Natural Language Processing with PyTorch 깊은바다 2019-07-06 652
딥러닝을 사용하여 의도 및 엔티티를 파악하는 챗봇 소스코드 file 깊은바다 2019-06-25 2142
가짜뉴스를 생성 또는 판별하는 딥러닝 모델 - Grover 깊은바다 2019-06-01 922
GPT2를 Colab에서 테스트할 수 있는 코드 깊은바다 2019-05-21 1557
인간의 언어를 이해하는 기계, NLU 깊은바다 2019-05-17 819
Jay Alammar의 트랜스포머 한글 번역글 깊은바다 2019-05-09 961
BERT로 토익 문제를 푸는 프로젝트 file 깊은바다 2019-04-30 2154
워드 임베딩에 대한 아주 쉬운 설명 - The Illustrated Word2vec 깊은바다 2019-04-09 662
대화 인공지능 대회 - ConvAI file 깊은바다 2019-03-25 601
문장의 유사성을 예측하고 평가하는 AI - 카카오 심슨 깊은바다 2019-03-20 1395
OpenAI Transformer GPT2로 만든 언어 모델 깊은바다 2019-02-17 2944
텐서플로에서 사전 훈련된 임베딩을 사용하는 예제 깊은바다 2019-02-02 441
목적지향 대화 학습 - Learning End-to-End Goal-Oriented Dialog file 깊은바다 2019-02-02 1153
문장을 입력하면 비슷한 짤방을 보여주는 프로젝트 file 깊은바다 2019-01-28 5947