레플리
글 수 292

딥러닝 자연어처리 - RNN에서 BERT까지

조회 수 1835 추천 수 1 2019.01.07 23:25:42


BERT 구조 ⢠í¸ëì¤í¬ë¨¸ì ì¸ì½ëë§ ì¬ì© ⢠BERT Base â 12ê°ì í¸ëì¤í¬ë¨¸ ë¸ë¡ ⢠BERT Large â 24ê°ì í¸ëì¤í¬ë¨¸ ë¸ë¡

https://www.slideshare.net/deepseaswjh/rnn-bert

 

 

 

이번에 자연어처리 강연 교재를 만들고 있습니다. 그중 RNN부터 BERT까지 정리한 자료를 공유합니다. 초보자를 대상으로 최대한 쉽게 설명하려고 노력했습니다. 대신 자세한 알고리즘은 다루지 않았습니다. 전체적인 개념을 이해하는데 도움이 되었으면 좋겠습니다.

 

 

 

< 챗봇 개발자 모임 >

- 페이스북 그룹에 가입하시면 챗봇에 대한 최신 정보를 쉽게 받으실 수 있습니다.

https://www.facebook.com/groups/ChatbotDevKR/

엮인글 :

NeuroWhAI

2019.01.08 18:35:53
*.64.194.131

감사합니다!

어텐션을 겨우겨우 이해했다고 생각했는데 트랜스포머에 BERT까지 허허 ㅠㅠ

깊은바다

2019.01.09 03:48:28
*.207.106.177

기술 발전이 너무 빠르죠 ㅎㅎ

저도 따라가기 벅찹니다 ㅠㅠ

List of Articles
제목 글쓴이 날짜 조회 수
딥러닝 자연어처리 - RNN에서 BERT까지 [2] 깊은바다 2019-01-07 1835
BERT를 이용한 챗봇 구현 file 깊은바다 2019-01-07 4172
사전훈련 자연어처리 모델의 발전과정 - The Illustrated BERT, ELMo, and co. 깊은바다 2019-01-01 1424
2018 Amazon Prize에서 우승한 Gunrock 소셜봇 file 깊은바다 2018-12-26 591
BERT 톺아보기 깊은바다 2018-12-17 26575
한국어 형태소 분석기 성능 비교 - khaiii 깊은바다 2018-12-10 1484
카카오 형태소 분석기(khaiii) 설치와 은전한닢(mecab) 형태소 분석기 비교 깊은바다 2018-12-02 2855
카카오의 딥러닝 기반 형태소 분석기 깊은바다 2018-11-30 516
위키정보를 찾아 잡담을 하는 딥러닝 모델 - Wizard Of Wikipedia file 깊은바다 2018-11-29 943
구글 듀플렉스(Duplex) 상용화 시작 [2] 깊은바다 2018-11-26 669
딥러닝 자연어처리 튜토리얼 - DLK2NLP [1] 깊은바다 2018-11-24 1242
커뮤니케이션과 AI - Multi-channel CNN을 이용한 한국어 감성분석 깊은바다 2018-11-22 1187
개체명인식 with Naver 깊은바다 2018-11-20 2351
사전학습을 통한 구글의 자연어처리 언어 모델 - BERT file 깊은바다 2018-11-03 4335
RNN seq2seq 간단한 대화모델 깊은바다 2018-10-23 1389