레플리
글 수 283

딥러닝 자연어처리 - RNN에서 BERT까지

조회 수 1756 추천 수 1 2019.01.07 23:25:42
깊은바다 *.207.106.177


BERT 구조 ⢠í¸ëì¤í¬ë¨¸ì ì¸ì½ëë§ ì¬ì© ⢠BERT Base â 12ê°ì í¸ëì¤í¬ë¨¸ ë¸ë¡ ⢠BERT Large â 24ê°ì í¸ëì¤í¬ë¨¸ ë¸ë¡

https://www.slideshare.net/deepseaswjh/rnn-bert

 

 

 

이번에 자연어처리 강연 교재를 만들고 있습니다. 그중 RNN부터 BERT까지 정리한 자료를 공유합니다. 초보자를 대상으로 최대한 쉽게 설명하려고 노력했습니다. 대신 자세한 알고리즘은 다루지 않았습니다. 전체적인 개념을 이해하는데 도움이 되었으면 좋겠습니다.

 

 

 

< 챗봇 개발자 모임 >

- 페이스북 그룹에 가입하시면 챗봇에 대한 최신 정보를 쉽게 받으실 수 있습니다.

- https://www.facebook.com/groups/ChatbotDevKR/

이 게시물을
엮인글 :
목록

NeuroWhAI

2019.01.08 18:35:53
*.64.194.131

감사합니다!

어텐션을 겨우겨우 이해했다고 생각했는데 트랜스포머에 BERT까지 허허 ㅠㅠ

깊은바다

2019.01.09 03:48:28
*.207.106.177

기술 발전이 너무 빠르죠 ㅎㅎ

저도 따라가기 벅찹니다 ㅠㅠ

List of Articles
제목 글쓴이 날짜 조회 수sort
OpenAI Transformer GPT2로 만든 언어 모델 깊은바다 2019-02-17 2980
카카오 형태소 분석기(khaiii) 설치와 은전한닢(mecab) 형태소 분석기 비교 깊은바다 2018-12-02 2828
구글 딥러닝 자연어 처리 오픈소스 SyntaxNet file 깊은바다 2017-12-28 2784
그림으로 아주 쉽게 설명한, The Illustrated GPT-2 깊은바다 2020-08-15 2775
추론이 가능한 딥러닝인 Relational Networks [2] 깊은바다 2017-06-11 2740
Python과 Tensorflow를 활용한 AI Chatbot 개발 및 실무 적용 깊은바다 2017-08-25 2582
GPT-3를 강화학습으로 업그레이드한 InstructGPT file 깊은바다 2022-01-30 2563
오픈소스 한국어 딥러닝 챗봇 - Kochat 깊은바다 2020-07-03 2501
딥러닝을 사용하여 의도 및 엔티티를 파악하는 챗봇 소스코드 file 깊은바다 2019-06-25 2328
개체명인식 with Naver 깊은바다 2018-11-20 2320
BERT로 토익 문제를 푸는 프로젝트 file 깊은바다 2019-04-30 2280
GPT2에서 문장 생성 시 단어를 확률에 따라 선택하는 방법 깊은바다 2020-07-16 2201
소설을 생성하는 NarrativeKoGPT2 file 깊은바다 2020-06-19 2195
GPT2로 만든 텍스트 어드벤처 게임 깊은바다 2019-12-09 2009
딥러닝으로 욕설 탐지하기 깊은바다 2018-08-06 1881
목록
쓰기