레플리
글 수 203

딥러닝의 종류 간단 설명

조회 수 25122 추천 수 0 2017.03.11 12:29:04


딥러닝이 기존 다층 신경망과 다른점은 레이어가 깊게(deep) 여러층이 있다는 것입니다. 이전에는 층이 깊어질수록 학습이 되지 않는 문제가 있었지만 최근 몇년 사이에 이를 해결할 수 있는 방법들이 많이 개발되었습니다.

 

딥러닝에도 여러가지 종류가 있는데 간단하게 정리해보았습다.

 

 

 

1. Deep Belief Network

 

DBNs.png

RBM(Restricted Boltzmann Machine)은 그래프로 표현된 확률모델입니다. 신경망과 비슷한 구조인데 이 RBM를 여러층을 쌓고 비지도학습으로 Pre-training을 합니다.

 

이렇게 하면 비슷한 특징들로 묶여진 신경망의 초기 가중치를 정할 수 있고 그 다음에는 완전연결 신경망을 사용하여 지도학습을 수행합니다.

 

 

 

2. Autoencoder

 

Zwsmz.png

 

오토인코더는 하나의 히든레이어가 있는 신경망인데 입력값이 그대로 출력값이 됩니다. 대신 히든레이어가 입력값을 압축하여 특징을 추출할 수 있습니다.

 

히든레이어을 다시 입력값으로 연결하여 여러층의 오토인코더를 쌓은 다음  DBN와 마찬가지로 비지도학습으로 Pre-training을 합니다.

 

 

 

3. Convolutional Neural Network

 

합성곱_신경망_Typical_cnn.png

 

가장 많이 알려진 딥러닝 방법으로 특히 이미지 처리에 적합합니다. 입력을 필터로 합성곱하여 특징을 추출하고 이런 합성곱 레이어를 여러 계층으로 연결합니다.

 

합성곱 레이어를 지날때마다 저수준의 특징들이 점차 고수준의 특징들로 만들어집니다. 그리고 마지막에는 완전연결 레이어로 최종 결과를 학습합니다.

 

 

 

4. Recurrent Neural Network

 

RNN-unrolled.png

 

RNN의 가장 큰 특징은 시간에 따른 순서를 기억한다는 것입니다. 신경망의 출력이 다른 신경망과 연결되어 있고 이렇게 여러개의 신경망으로 이어져 있습니다. 단어의 순서에 따른 연결이 고려되는 자연어처리에서 많이 사용되고 있습니다.

 

 

 

5. Deep Q-Network

96f1ced9cae8f1ade00e311a2300687c.png

 

강화학습은 현재 상태 S에서 행동 a를 결정하고 그에 따른 보상을 받아 행동을 수정합니다. Q테이블은 각 상태집합에서 행동에 따른 우선순위가 있는 테이블입니다.

 

Q(S, a)는 상태 S에서 a라는 행동을 했을때의 이득값입니다. 현재 상태의 모든 행동 a에 대해서 Q값을 구해 가장 높은 우선순위의 행동을 수행합니다.

 

보통 Q테이블을 배열로 설정하는데 이를 딥러닝 CNN으로 변경한 것이 DQN입니다. 그렇기 때문에 상태나 행동이 큰 집합도 잘 학습이 됩니다. 이세돌과의 바둑 경기로 유명한 알파고가 바로 이 방법을 사용하였습니다.

 

 

 

< 인공지능 개발자 모임 >

- 페이스북 그룹에 가입하시면 인공지능에 대한 최신 정보를 쉽게 받으실 수 있습니다.

https://www.facebook.com/groups/AIDevKr/

 

List of Articles
제목 글쓴이 날짜 조회 수
오픈소스로 공개된 Text-to-Image 모델 - Stable Diffusion 깊은바다 2022-09-07 1336
Dall.E 2 Prompt Book - 프롬프트 작성 가이드 깊은바다 2022-07-14 4339
최초로 인간 수준의 크기를 가진 중국의 딥러닝 모델 - BaGuaLu file 깊은바다 2022-06-23 1116
미국에서 Dalle Mini로 짤(Meme)을 만드는게 유행 file 깊은바다 2022-06-19 1582
말로 영상을 생성하는 딥러닝 모델 - CogVideo file 깊은바다 2022-05-30 1069
DALL.E를 직접 테스트해볼 수 있는 사이트 - DALL.E mini file 깊은바다 2022-05-17 11518
전문가 수준의 사진을 생성하는 NVIDIA의 PoE-GAN 깊은바다 2022-02-16 1279
메타AI의 멀티모달 자기지도학습 모델인 Data2vec 깊은바다 2022-01-26 1028
GAN으로 사진에서 특정 부분을 지워주는 서비스 - Cleanup.pictures file 깊은바다 2022-01-17 1018
3D 이미지를 만드는 GAN - StyleNeRF 깊은바다 2021-12-20 835
CLIP을 사용하여 말로 그림을 그려주는 스마트폰 앱 - WOMBO Dream file 깊은바다 2021-11-25 1777
내가 말하는 걸 보여줘, DALL-E 깊은바다 2021-11-11 1062
텍스트를 이미지로 생성해주는 사이트 - Text2Art (VQGAN-CLIP) file 깊은바다 2021-11-10 6865
원티드는 어떻게 AI로 채용 결과를 예측하고 매칭할까 깊은바다 2021-11-09 959
OpenAI의 CLIP을 한글로 구현한 KoCLIP file 깊은바다 2021-11-02 2732