레플리
글 수 281

딥러닝 자연어처리 - RNN에서 BERT까지

조회 수 1751 추천 수 1 2019.01.07 23:25:42


BERT 구조 ⢠í¸ëì¤í¬ë¨¸ì ì¸ì½ëë§ ì¬ì© ⢠BERT Base â 12ê°ì í¸ëì¤í¬ë¨¸ ë¸ë¡ ⢠BERT Large â 24ê°ì í¸ëì¤í¬ë¨¸ ë¸ë¡

https://www.slideshare.net/deepseaswjh/rnn-bert

 

 

 

이번에 자연어처리 강연 교재를 만들고 있습니다. 그중 RNN부터 BERT까지 정리한 자료를 공유합니다. 초보자를 대상으로 최대한 쉽게 설명하려고 노력했습니다. 대신 자세한 알고리즘은 다루지 않았습니다. 전체적인 개념을 이해하는데 도움이 되었으면 좋겠습니다.

 

 

 

< 챗봇 개발자 모임 >

- 페이스북 그룹에 가입하시면 챗봇에 대한 최신 정보를 쉽게 받으실 수 있습니다.

https://www.facebook.com/groups/ChatbotDevKR/

엮인글 :

NeuroWhAI

2019.01.08 18:35:53
*.64.194.131

감사합니다!

어텐션을 겨우겨우 이해했다고 생각했는데 트랜스포머에 BERT까지 허허 ㅠㅠ

깊은바다

2019.01.09 03:48:28
*.207.106.177

기술 발전이 너무 빠르죠 ㅎㅎ

저도 따라가기 벅찹니다 ㅠㅠ

List of Articles
제목 글쓴이 날짜 조회 수
Poe에 추가된 업스테이지의 LLM, Solar-70b file 깊은바다 2023-09-18 414
RAG 아키텍처를 위한 임베딩 모델의 선택에 대해 깊은바다 2023-09-14 496
LLM의 미래는 자율행동과 멀티 에이전트 깊은바다 2023-08-30 292
LLM이 서로 협력하여 프로그램을 개발 - ChatDev file 깊은바다 2023-08-16 722
GPT-4에 CoT 프롬프를 적용하여 2023 수능 국어 1등급 달성 file 깊은바다 2023-08-08 593
LLM의 창발적인 현상인 CoT(Chain of Thouht) 소개 file 깊은바다 2023-07-27 670
RAG 아키텍처의 이해 깊은바다 2023-07-23 1292
GPT-4 세부구조에 대한 정보 유출 깊은바다 2023-07-20 452
Llama 2의 RLHF 구현 방법 깊은바다 2023-07-19 694
한국어 LLM 민주화의 시작 KoAlpaca file 깊은바다 2023-07-17 1017
레포트를 써주는 LLM - GPT Researcher file 깊은바다 2023-07-13 353
LLM 챗봇의 특징 2가지 - RAG와 Function 깊은바다 2023-07-06 1147
RAG(Retrieval-Augmented Generation) - LLM의 환각을 줄이는 방법 file 깊은바다 2023-07-04 9262
Generative AI — 시장 구조, 기회, moat에 대한 몇 가지 생각 깊은바다 2023-06-27 298
ChatGPT plugin와 Autonomous Agent, 그리고 새로운 패러다임의 시작 깊은바다 2023-06-27 203